专栏算法工具链量化后生成的原始浮点模型有误差

量化后生成的原始浮点模型有误差

已解决
kuku2022-05-29
72
1

用户您好,请详细描述您所遇到的问题。

1.硬件获取渠道:无硬件

2.当前系统镜像版本:horizon_xj3_open_explorer_v1.10.7_20220304

3.当前天工开物版本:无

4.问题定位:本地的onnx模型测试正确,03_build.sh后,生成的量化模型测试正确,生成的原始浮点模型测试有误差

5.开发的demo/案例:官方的YOLOP模型

6.需要提供的解决方案:附件中的inference.py是对量化模型进行推理;test_inference.py是对原始浮点模型进行推理;pictures文件夹保存推理后的图片,yolov5_config.yaml是量化的配置模型。其中data_mean_and_scale的值根据本地预处理的值进行配置

附件:
算法工具链
征程3
评论1
0/1000
  • 颜值即正义
    Lv.2
    origin.onnx和quanti.onnx的前处理差异只有layout不同,建议可参考:地平线 AI 社区 (horizon.ai)
    通过在yaml文件中配置input_layout_traininput_type_rt参数,可以使得origin.onnx和quanti.onnx乃至.bin模型前端插入对应的预处理节点,nv12格式相对特殊一些,python端推理采用的是中间类型yuv444,相关前处理代码可参考发布包中检测场景的任一转换示例
    2022-05-30
    0
    0