专栏算法工具链J5模型转换 量化结果误差较大的问题

J5模型转换 量化结果误差较大的问题

已解决
kotei左文亮2023-04-13
56
2
1.芯片型号：J5等
2.天工开物开发包OpenExplorer版本：J5_OE_1.1.29等
3.问题定位：模型转换、板端部署
4.问题具体描述：目标检测模型在经过工具链模型量化之后，不指定算子放在CUP，生成的Bin文件最后部署时，推理结果只有两个阈值：0.401 和 0.802；

然后将网络的最后一小部分算子放到CPU计算，得出的精度比之前的准确，但是耗时大量增加，

如何解决上述问题啊？

算法工具链
征程5
评论2
0/1000
  • 颜值即正义
    Lv.2

    你好，建议先升级到OE1.1.45版本哈，工具链也是在持续迭代优化的，获取链接：https://developer.horizon.ai/forumDetail/118363912788935318

    此外，建议您先不急着将尾部算子跑在cpu上，先使用别的精度调优手段进行精度优化哈，建议您参考这篇文章进行：https://developer.horizon.ai/forumDetail/71036815603174578

    2023-04-13
    0
    0
  • 颜值即正义
    Lv.2
    2023-04-24
    0
    0