专栏算法工具链模型仿真的html性能数据如何解读

模型仿真的html性能数据如何解读

已解决
zhangxl2023-06-19
49
4

用户您好，请详细描述您所遇到的问题，这会帮助我们快速定位问题~

1.芯片型号：J5
2.天工开物开发包OpenExplorer版本：J5_OE_1.1.40
3.问题定位：模型转换
4.问题具体描述：

模型仿真的时候会出来一个html对每层的性能数据，这个性能数据可靠吗?以及如何解读这个数据，比如截图中：

layer util (no DDR)和layer util (with DDR)百分比是怎么计算的，为什么会出现_backbone_patch_embedding_norm_layer_norm_hz_sub层的开始时间从9us开始，_backbone_patch_embedding_norm_layer_norm_input_mean_hz_mean的开始时间是从22us开始，以及_backbone_patch_embedding_norm_layer_norm_hz_sub和_backbone_patch_embedding_norm_layer_norm_hz_mul有依赖关系的两层起始时间都是9us开始
算法工具链
征程5
评论2
0/1000
  • 颜值即正义
    Lv.2
    你好，请问你使用的docker是哪个版本的呀，我在OE1.1.40中也没复现出你的情况啊，感觉像很久远的html文件呈现形式了，里面的一些预估信息有些凌乱。

    当前关于这部分呈现形式如下图所示，一目了然~

    地平线工具链在持续迭代，建议您升级至当前最新版OE1.1.52以及docker，获取方式为：https://developer.horizon.ai/forumDetail/118363912788935318。

    也可以查看关于这部分内容的在线用户手册：https://developer.horizon.ai/api/v1/fileData/horizon_j5_open_explorer_cn_doc/oe_mapper/source/ptq/ptq_usage/performance_evaluation.html

    2023-06-19
    0
    2
    • zhangxl回复颜值即正义:

      OE包是使用的horizon_j5_open_explorer_v1.1.37-py38_20230106.tar.gz这个，跑出来的图就长上面截图的形式

      2023-06-19
      0
    • zhangxl回复颜值即正义:

      docker使用的是docker_openexplorer_ubuntu_20_j5_gpu_v1.1.37-py38.tar.gz

      2023-06-19
      0
  • 颜值即正义
    Lv.2
    您好，layer util (no DDR)的计算方式是original cost / computing cost，其中original cost是原始layer理论时间开销，computing cost（no DDR）是编译后layer的时间开销，不包括DDR相关的时间开销。layer util（with DDR）的计算方式是original cost / (computing cost + load/store cost)。active period of time是编译后layer活跃时间段。不代表该layer的执行时间，通常都是多个layer交替/并行执行。
    2023-06-19
    0
    0