专栏算法工具链模型量化性能损失较大

模型量化性能损失较大

已解决
Zhaojin2025-04-02
55
6
1.芯片型号:J3
3.天工开物开发包OpenExplorer版本:J3_OE_1.16.4
4.问题定位:模型转换--量化后性能问题
5.问题具体描述:按照官方文档描述,quantized模型已经完成了量化,与最后的bin模型具有一致的精度效果,但我这边通过 quantized模型和bin模型可视化效果对比,两者分割效果上还是有一定差距,并且 quantized模型 分割效果边缘没有毛刺, bin模型 分割效果边缘有毛刺(边缘处有很小的点状),具体如下图所示,左边是 quantized模型 效果,右边是 bin模型 板端跑出来的结果:


我这边量化后的节点相似度我也做了截图,具体如下,框出来的都是相似度低于95%的:





麻烦您这边指导下如何修改使的模型效果更好,谢谢,期待您的回复!
算法工具链
征程3
评论3
0/1000
  • Huanghui
    Lv.5

    你这个可视化分割的是什么?

    2025-04-02
    0
    3
    • Zhaojin回复Huanghui:

      雨滴

      2025-04-02
      0
    • Huanghui回复Zhaojin:

      这两个原始图片咋看起来不一样呢你确定是同一张图片·吗

      2025-04-02
      0
    • Zhaojin回复Huanghui:

      一个裁剪了,一个没裁剪,裁剪前后bin模型都类似的问题

      2025-04-03
      0
  • DR_KAN
    Lv.4

    一般都是输入数据不一致产生的偏差,检查下输入吧

    2025-04-02
    0
    0
  • Huanghui
    Lv.5

    你好,我们给您的方向( 输入数据不一致产生的偏差 )你验证是OK的吗, 鉴于长时间未收到你的答复,我们暂将该问题做关闭处理,如您仍有相同问题,请在新的帖子中重新发起提问,祝您工作愉快!

    2025-05-04
    0
    0