专栏算法工具链模型转换yaml文件中参数理解问题

模型转换yaml文件中参数理解问题

已解决
五岁月下练剑2023-05-10
41
4

您好，请问如下问题

1、在模型转换yaml文件中有参数：core_num=2，使用这个参数量化得到的bin文件在单核情况下是否同样可用？

2、文档中写这个参数的选2的时候双核速度理想情况可以达到单核的1.5倍左右。这个理想速度是指什么情况下的速度呢，此提升在aibenchmark中测试fps时可以体现吗？

3、这个参数对性能如果有这么大的优化为什么不默认开启这个参数呢，在性能调优部分文档也没有推荐打开这个参数来调整性能。这个参数开启后会有什么弊端吗？

算法工具链
征程3
评论1
0/1000
  • 颜值即正义
    Lv.2

    你好：

    问题1：core_num=2编译时会将模型拆成两个部分，无法在单核情况下使用

    问题2和3：针对模型相对较大的时候选择core_num=2，小模型更建议使用core_num=1，因为核之间任务调度等也会带来耗时，具体耗时情况就要具体问题具体分析了。此外，针对多任务、多模型，经常会出现需要某任务独占一个核的情况，因此示例中、调优文档中也并没有将其作为性能优化参数。关于ai_benchmark中评测fps也都是单核的，是为了保持所有场景一致，比如J5只支持编译单核模型

    2023-05-10
    0
    3
    • 五岁月下练剑回复颜值即正义:
      好的，感谢。我验证了下，core_num=2编译出的bin模型，在aibenchmark中将workflow_fps中的“core”参数设为1或者2无法运行，只有在0的双核模式下可以运行。
      这里就看到在“core_num=2”时编译出的模型fps反而比地平线modelzoo中的bin模型测出的fps低很多。双核编译并没能提升性能，反而性能变差了。是因为您提到的“因为核之间任务调度等也会带来耗时”的原因吗
      2023-05-11
      0
    • 颜值即正义回复五岁月下练剑:

      嗯嗯是滴~

      2023-05-11
      0
    • 五岁月下练剑回复颜值即正义:

      好的，谢谢

      2023-05-11
      0