专栏算法工具链模型量化时会有WARNING：find illegal threshold

模型量化时会有WARNING：find illegal threshold

已解决
终结者联盟2025-06-14
30
4

请问下，在J6模型量化时碰到了非法的阈值，是什么原因，如何避免呢？

在量化后的模型做推理时，结果跟浮点模型误差比较大

算法工具链
征程6
评论4
0/1000
  • 费小财
    Lv.5

    可以先检查下你代码中参数的阈值设置的是多少，是不是配置文件搞错了

    2025-06-16
    0
    0
  • DR_KAN
    Lv.4

    这个warning通常不用管，可以量化后推理下看看结果怎么样，以量化相似度和精度评测的指标为准

    2025-06-16
    0
    0
  • DR_KAN
    Lv.4

    单纯当作精度问题来处理就行，可以参考各种精度调优资料

    2025-06-17
    0
    0
  • Huanghui
    Lv.5

    客户您好，长时间未收到你的答复，相信问题已解。如对此尚存疑问欢迎新帖讨论，感谢您的参与！

    2025-07-08
    0
    0