bevformer部署时精度损失大

已解决

皮卡丘2024-08-14

219

1. 芯片型号：J6M

2. 天工开物开发包 OpenExplorer 版本：v3.0.17

3. 问题定位：板端部署

4. 问题具体描述：

部署示例算法bevfomer到板端后，无检测框。经过测试，python HBRuntime 推理bc和板端c++ UCP推理hbm精度差异大。

4个输出tensor中，两个tensor相似度高，一个tensor相似度低

算法工具链

0/1000

Pipeline
Lv.2
qat-model训练后检查过精度吗？quantized.bc精度有检查过吗？权重是否加载正确呢？使用我们提供的训练权重吗？
2024-08-14
0
3
- 皮卡丘回复Pipeline:
  quantized.bc 推理是OK的，有一些检测框
  对比的是quantized.bc的输出tensor和板端hbm的输出tensor，板端的tensor做过处理，去除了对齐产生的空隙
  板端推理的hbm是直接使用地平线提供的hbm
  2024-08-14
  0
  回复
- kuku回复皮卡丘:
  请使用quantized.bc模型生成的hbm测试下，保证模型来源一致
  2024-08-14
  0
  回复
- 皮卡丘回复kuku:
  重新导出生成了，结果是一致的
  2024-08-14
  0
  回复
皮卡丘
Lv.2
有啥工具可以测试板端hbm和bc模型的精度吗
2024-08-15
0
1
- Pipeline回复皮卡丘:
  现阶段暂无，可以使用hrt工具dump板端输出后与bc做对比。
  2024-08-15
  0
  回复
Pipeline
Lv.2
设置为ddr输入
2024-08-19
0
1
- 皮卡丘回复Pipeline:
  是设置为ddr输入的，检查tensor type，是int16，需要走quanti_tensor函数，但经过反量化后，相似度仅有0.5
  2024-08-19
  0
  回复
皮卡丘
Lv.2
有任何更新？在编译阶段，从hbir模型到hbm模型有大精度损失，这是一个严重的问题
2024-08-20
0
1
- Huanghui回复皮卡丘:
  客户您好，鉴于长时间未收到你的答复，我们暂将该问题做关闭处理，如您仍有相同问题，请在新的帖子中重新发起提问，祝您工作愉快！你可以参考精度评估部分对hbm及bc模型进行精度检测。
  2024-09-04
  0
  回复
HDR
Lv.2
欢迎您加入地平线社区论坛飞书群，及时获取问题贴回帖提醒~
2024-08-16
0
0
皮卡丘
Lv.2
我希望设置输入为float，有什么编译或者量化参数可以使用吗
2024-08-19
0
0
皮卡丘
Lv.2
quanti_tensor函数中，为什么要加0.5，反量化参考代码中，没有减去0.5
2024-08-19
0
0

bevformer部署时精度损失大

欢迎您加入地平线社区论坛飞书群，及时获取问题贴回帖提醒~