专栏算法工具链J6多batch输入模型PTQ量化输入拆分后结果出错

J6多batch输入模型PTQ量化输入拆分后结果出错

已解决
yy12342025-02-26
102
5
J6平台,PTQ量化时处理多batch输入模型中,参考J6EM_OE_Pyramid_Resizer输入部署说明v2.0.pdf文档及https://developer.horizon.auto/forum/10150帖子回复,对batch n模型的batch进行拆分。现象:拆分后hbm上板推理结果全部为0.原始使用featuremap作为输入的hbm模型在板端推理结果是对的。
想请教一下J6EM_OE_Pyramid_Resizer输入部署说明v2.0.pdf文档中一些疑问:如图文档中说到,yaml中input_type_train与input_type_rt配置为featuremap,即对输入不做任何处理,那我的校准图像应该如何处理呢?j5上图像输入配置为nv12,因此校准图像需要使用opencv等库进行BGR->RGB HWC->CHW等格式转换以满足模型要求保存成二进制作为calib数据,不进行均值方差等处理,因为这个步骤在yaml中通过mean scale_value配置了,量化过程自动添加了预处理节点。

那J6把图像当成featuremap作为输入,calib数据我应该是要把均值方差等处理过程都处理后再生成校准数据吧。实际中我也是这样做的,因此特征图输入生成的hbm在板端也依旧使用的校准使用的那个文件,结果是对的。但参考文档及论坛回答拆分后的模型,使用nv12数据推理时,结果是错的。

已经验证板端推理方法及nv12文件生成没有问题

附件:
算法工具链
征程6
评论1
0/1000
  • Huanghui
    Lv.5

    你好,我参考我之前遇到过的问题,回答您,输入格式是featuremap,不需要设置mean value了,对校准图像当时是除以255进行归一化,可以正常检测出。

    2025-02-26
    0
    4
    • yy1234回复Huanghui:

      您说的不需要设置 mean value 是指yaml中不需要设置吧,yaml中我确实是没有设置的。您的校准图像处理是只进行除以255的归一化,不需要进行减均值 除方差这两步吗。我的校准图像这三步都做了

      2025-02-26
      0
    • Huanghui回复yy1234:

      yaml文件中 input_type_train , input_type_rt配置为featuremap ,是不需要进行均值方差这两部的,直接注释掉就可以,你可以试一下

      2025-02-26
      0
    • Huanghui回复yy1234:
      2025-02-26
      0
    • Huanghui回复yy1234:

      我贴一段之前一个数据前处理的例子您可以参考下,那个除以255我认为只是一个归一化操作,没有别的含义。

      2025-02-26
      0