专栏算法工具链工具链转换原onnx模型，生成的浮点模型出现比较大的误差。

工具链转换原onnx模型，生成的浮点模型出现比较大的误差。

已解决
御坂美琴2023-03-29
79
2

在使用最新版工具链时，以及测试了以前的工具链，都出现了转换模型Fcos3D时，工具链对原onnx模型转换出来的浮点模型结果就已经不可用了，量化后直接没有正确输出了。请问有什么解决或者查看误差来源的办法吗？

算法工具链
征程5
评论2
0/1000
  • 颜值即正义
    Lv.2

    你好，请您先参考这篇文章进行精度定位哈：https://developer.horizon.ai/forumDetail/71036815603174578

    2023-03-30
    0
    0
  • 颜值即正义
    Lv.2
    2023-04-24
    0
    0