专栏算法工具链UNet模型量化后输出图片出现偏移和模糊，是什么原因

UNet模型量化后输出图片出现偏移和模糊，是什么原因

已解决
maodong2021-04-01
130
1

上图是onnx模型量化后的结果，对比下图onnx量化前的输出，除了左上角区域都出现明显的偏移

算法工具链
评论1
0/1000
  • 芯链情报局
    Lv.4
    你好，建议参考下我们 FAQ 文档中的《FAQ-2-06:转换精度掉点问题分析和优化思路》先进行下分析
    2021-04-01
    0
    0