专栏算法工具链bc模型和hbm输出不一致

bc模型和hbm输出不一致

chengang2026-03-18
97
4
你好，我们比较自己训练的模型，发现quantized.bc和hbm模型输出结果不一致，差异如图所示，推理脚本和模型文件上传附件了，能帮我们排查下吗？
附件:
算法工具链
技术深度解析征程6
评论3
0/1000
  • DR_KAN
    Lv.5

    看这个差异数量，是不是hbm删除了反量化节点，然后对比了bc没删除的输出？

    2026-03-23
    0
    1
    • chengang回复DR_KAN:

      好的，我们查下

      2026-03-23
      0
  • HuangHui
    Lv.5



    你给的这个模型没有OE版本号等信息，芯片从验证的程度看，J6M上HBM可以加载，从结果数据看output类型为S32且带有scale信息等，这个是移除了反量化节点后的结果。bc模型一般是有反量化节点的，output为f32，这个块应该应就是原因了。
    请确认并反馈一下结果哈~





    2026-03-31
    0
    0
  • zyhang
    Lv.1

    您好，长时间未收到你的答复，相信问题已解。如对此尚存疑问欢迎新帖讨论，感谢您的参与！

    2026-05-07
    0
    0