专栏算法工具链J5示例PTQ转换失败

J5示例PTQ转换失败

已解决
五岁月下练剑2023-04-03
24
9

您好，

J5的1.1.37版本OE包，sample中的YOLOv5x模型做PTQ出现如下错误，无法转换quantized模型和bin模型。之前是在“calibration in progress”那里只能加载到14%就失败了，我将yaml中的 “ calibration_type: 'default' ”改为 “ calibration_type: 'kl' ”之后这步可以过了，但出现了下面的问题。

请问是有哪些参数需要更改吗？

算法工具链
征程5
评论2
0/1000
  • 颜值即正义
    Lv.2

    你好，通常这种问题是开发机资源不足导致的哈，示例中配置的默认参数是不需要修改的，即使修改成其它可配置项，也是没有问题的哈。

    建议您也可以尝试使用我们提供的CPU docker，它的体积较小，获取链接如下：https://developer.horizon.ai/forumDetail/118363912788935318

    2023-04-04
    0
    7
    • 五岁月下练剑回复颜值即正义:

      好的，谢谢，我试试

      2023-04-04
      0
    • 五岁月下练剑回复颜值即正义:

      还有个问题请问一下，同一开发机上我跑J3中的fcosPTQ和J5的fcosPTQ，速度差的很多，J5中的非常慢，是因为什么导致的呢，是因为J5oe包的中示例跑起来占用的资源更多吗？

      2023-04-04
      0
    • 颜值即正义回复五岁月下练剑:
      请问您说的这个跑示例是指什么呢？模型转换编译、还是中间产物onnx推理？这变量就有点多了哈，我也不太好给出可能原因的猜测
      2023-04-04
      0
    • 五岁月下练剑回复颜值即正义:

      就是PTQ示例中的03build脚本，在J5 docker中执行fcosPTQ示例的build的速度，非常慢。执行yolov5x PTQ示例的build脚本还会出现上面的开发机资源不足的情况（使用的已经是CPU docker）。同一个开发机J3上的PTQ示例都可以跑通，J5上的有些示例build时就会出现资源不足的情况。

      2023-04-04
      0
    • 颜值即正义回复五岁月下练剑:

      建议配置一下这个参数看看，随着版本的更新，默认开启16核进行编译

      2023-04-04
      0
    • 五岁月下练剑回复颜值即正义:

      监控了下系统资源，应该不是cpu的问题，是内存的问题，但同一个开发机同样的内存J3上的PTQ示例都可以跑通，J5上的有些示例build时就会出现资源不足的情况。请问J5对开发机性能的要求大约比J3高多少呢

      2023-04-06
      0
    • 颜值即正义回复五岁月下练剑:

      你好，通常满足如下要求就可以了，build的时候也需要看是否有多人共用或者其它程序抢夺资源哈

      2023-04-06
      0
  • 颜值即正义
    Lv.2
    2023-04-24
    0
    0