专栏算法工具链sparse4D 走PTQ得到的定点模型余弦相似度差, 没有检测能力

sparse4D 走PTQ得到的定点模型余弦相似度差, 没有检测能力

盗亦有道2026-03-05
35
7
昨天我们这边尝试使用地平线开源的配置以及开源的sparse4D权重去走PTQ的链路. 参考的也是PTQ示例的做法, 但是发现float.onnx经过 hb_compile --skip compile 得到的定点模型输出的余弦相似度很差. 并且失去了检测效果. 这个问题方便帮忙定位一下什么原因吗? 附件中带有使用的浮点模型onnx, 配置, 以及使用的校准数据.
附件:
算法工具链
技术深度解析征程6
评论2
0/1000
  • 盗亦有道
    Lv.1

    工具链是OE3.2.0

    2026-03-05
    0
    0
  • Huanghui
    Lv.5

    你好，先用全int16试试吧，配置方法参考https://doc.oe.horizon.auto/guide/ptq/ptq_tool/hb_compile/quant_config.html

    2026-03-05
    0
    5
    • 盗亦有道回复Huanghui:

      黄工你好, 我这边全int16走一遍. 但是我这个float.onxx模型都是用的地平线开源的. 我希望你那边帮我们转一下，看看你转出来的量化误差有这么大吗.

      2026-03-05
      0
    • Huanghui回复盗亦有道:

      地平线开源的这个是啥意思呢，OE包的参考算法？sparse的参考算法是基于QAT的，不是PTQ！

      2026-03-05
      0
    • 盗亦有道回复Huanghui:

      是使用的权重,是地平线工具包开源的. 这个权重是float.onnx. 这个权重不能用于PTQ吗?为什么呢?

      2026-03-05
      0
    • 盗亦有道回复Huanghui:

      黄工你好,全int16出来的余弦相似度也是很低. 一样有问题


      2026-03-05
      0
    • Huanghui回复盗亦有道:

      全int16是模型设置的精度上限了都不行那就没办法了，说明这个模型走不了PTQ，还是QAT吧

      2026-03-05
      0