专栏算法工具链sparsedrive模型PTQ量化

sparsedrive模型PTQ量化

已解决
默认696002026-01-04
85
5

问题背景:对sparsedrive模型的检测建图部分进行PTQ量化,目前整体的PTQ量化流程是可以走通的,使用的full-compile模式,校准数据集是从nuscene的mini集中挑选了70帧;但是最后检测部分的量化精度很差,建图部分的量化精度正常,fullcompile时的输出结果相似度如下图所示

问题描述: 不太清楚为什么会出现检测和建图的精度相差如此大的这种情况,因为sparsedrive的检测建图结构是完全一致的;推测可能是校准数据集里的场景太少,导致检测头算子的权重异常?请问有必要从完整的nuscene数据集里挑选不同场景下的校准数据吗,或者有其他的解决思路?
算法工具链
征程6
评论2
0/1000
  • YCJ
    Lv.4
    您好!您是使用的哪一款开发板?工具链版本是多少?看描述是量化过程中精度损失严重。您可以先设置一下全int16,看下精度损失是否还是这样严重。
    2026-01-05
    0
    3
    • 默认69600回复YCJ:

      J6M,工具链版本3.2.0 ; 用int16试过了,精度损失一样严重,也用trainval数据集中抽取的校准数据集重新量化了,精度损失还是很严重 ;

      2026-01-05
      0
    • YCJ回复默认69600:

      能贴图看看吗?一点好转都没有吗

      2026-01-06
      0
    • YCJ:

      顺便贴一下您的yaml配置

      2026-01-06
      0
  • yy1234
    Lv.2
    之前做过一段时间ptq,个人经验觉得校准数据场景太少这个想法不对,用nuscenes全量数据中选校准数据大概率作用是很小。你看一下第一幅校准数据图像,我记得余弦相似度是根据第一张图算的,你选一个常规的图当第一张试试。另外复杂模型ptq量化精度就是会很差,基本无解xiaoku_org.svg
    2026-01-06
    0
    0