专栏算法工具链ipm PTQ

ipm PTQ

已解决
Durrrrui2023-07-05
61
3

UNIT_CONV_FOR_GridSample_182 BPU id(0) HzSQuantizedConv 0.674032 2848.837158

GridSample_182_grid_split BPU id(0) Split

GridSample_182_grid_add_for_x BPU id(0) HzSElementwiseAdd

GridSample_182_grid_add_for_y BPU id(0) HzSElementwiseAdd

GridSample_182_concat BPU id(0) Concat

GridSample_182_grid_sub BPU id(0) HzSElementwiseSub

GridSample_182 BPU id(0) HzQuantizedGridSample 0.309814 3.803920

Reshape_183 BPU id(0) Reshape

ReduceSum_184 BPU id(0) HzSQuantizedReduceSum 0.555897 3.803920

ReduceSum_184_reshape BPU id(0) Reshape

对ipm.onnx进行ptq，输入为6x256x704的环视相机和points6x128x128x2点。PTQ的校验过程在Gridsample处Cosine Similarity下降特别厉害，导致

最终输出差距大。请问是因为ipm的gridsample本身问题还是该算法仅推荐qat量化？

附件:
算法工具链
征程5
评论1
0/1000
  • 颜值即正义
    Lv.2

    你好，bev参考算法建议走QAT，最新版本的参考算法仅通过qat的Calibration也可以达到不错的精度，并不需要进行量化训练的步骤，而且QAT编译出来的hbm模型的部署方式和PTQ编译出来的bin模型的相同的。如果你这边倾向于使用PTQ，可以参考这篇文章进行精度的调优工作https://developer.horizon.ai/forumDetail/71036815603174578

    2023-07-06
    0
    2
    • Durrrrui回复颜值即正义:

      好的谢谢

      2023-07-06
      0
    • 颜值即正义回复Durrrrui:
      您好，地平线工具链在持续迭代优化，为了给您提供更好的服务，希望您能抽出3分钟左右的时间，将您在使用工具链期间的感受和建议告诉我们，您的宝贵意见对我们很重要，非常感谢！
      问卷链接：地平线算法工具链使用满意度反馈
      2023-07-10
      0