J6平台,PTQ量化时处理多batch输入模型中,参考J6EM_OE_Pyramid_Resizer输入部署说明v2.0.pdf文档及https://developer.horizon.auto/forum/10150帖子回复,对batch n模型的batch进行拆分。现象:拆分后hbm上板推理结果全部为0.原始使用featuremap作为输入的hbm模型在板端推理结果是对的。
想请教一下J6EM_OE_Pyramid_Resizer输入部署说明v2.0.pdf文档中一些疑问:如图文档中说到,yaml中input_type_train与input_type_rt配置为featuremap,即对输入不做任何处理,那我的校准图像应该如何处理呢?j5上图像输入配置为nv12,因此校准图像需要使用opencv等库进行BGR->RGB HWC->CHW等格式转换以满足模型要求保存成二进制作为calib数据,不进行均值方差等处理,因为这个步骤在yaml中通过mean scale_value配置了,量化过程自动添加了预处理节点。
那J6把图像当成featuremap作为输入,calib数据我应该是要把均值方差等处理过程都处理后再生成校准数据吧。实际中我也是这样做的,因此特征图输入生成的hbm在板端也依旧使用的校准使用的那个文件,结果是对的。但参考文档及论坛回答拆分后的模型,使用nv12数据推理时,结果是错的。
已经验证板端推理方法及nv12文件生成没有问题

