专栏算法工具链pointpillars模型使用ptq量化疑问

pointpillars模型使用ptq量化疑问

已解决
默认383362025-04-15
96
5

     您好,我尝试用ptq量化方式量化pointpillars模型。

     原始浮点模型是用aibenchmark里pointpillars示例的pth文件参考这篇 地平线J6参考算法如何导出浮点的onnx? - 地平线开发者社区 转换得到的;

     校准数据是用aibenchmark里evalpreprocess里的pointpillars前处理脚本处理后得到的;

     我量化后得到的bin模型,利用aibenchmark里QAT/pointpillars的latency.sh输出可视化结果以及accuracy.sh评估精度结果都异常。两个sh文件对应的workflow.json我仅将模型由hbm模型换为bin模型的路径,其余未更改。

      ptq量化的方式尝试了kl和default,均不行,请问有哪里出现问题?而且我用default的方式,模型的算子余弦相似度都是1,如附图所示,这是为什么?附件还有我ptq的yaml文件。谢谢!

附件:
算法工具链
征程5
评论2
0/1000
  • Huanghui
    Lv.5

    收到,先看看吧,一般情况下QAT的模型比较复杂,整体精度优化还是需要通过QAT流程完成的。

    2025-04-15
    0
    3
    • 默认38336回复Huanghui:

      但精度是0应该也不太正常

      2025-04-16
      0
    • 默认38336回复Huanghui:

      我们现在是想做个测试,对比一下两种方式精度会差多少

      2025-04-16
      0
    • Huanghui回复默认38336:

      你好,请问目前该问题依然需要处理是吗?

      2025-05-04
      0
  • 默认38336
    Lv.1

    您好,麻烦您方便时看下,谢谢!

    2025-04-18
    0
    0