专栏算法工具链J5使用Centerpoint推理自定义数据集问题

J5使用Centerpoint推理自定义数据集问题

已解决
默认823682025-01-14
104
6
已经训练好浮点数模型，且在x86使用qat模型infer推理没问题，检测框正确，但编译后在板端执行目标框航向角错误，且无规律。

目前考虑是否编译过程出错导致hbm模型与qat模型有较大差异，是否有工具可以直接对比两者输出的特征图？

2025/01/15更新:

检查了一下，发现是更改了配置文件导致的，因为我更改了代码来适配自己的雷达型号，在x86上用infer.py推理是没有问题的。

我的部分python配置文件内容如下：

 

 

板端预处理默认配置：
{ "dim": 5, "max_num_point": 40000, "max_num_point_pillar": 20, "back": -51.2, "front": 51.2, "right": -51.2, "left": 51.2, "bottom": -5, "top": 3, "r_lower": 0.0, "r_upper": 255.0, "x_scale": 0.2, "y_scale": 0.2, "x_bev_scale": 0.1, "y_bev_scale": 0.1, "run_on_dsp": false }

改为：
{ "dim":4, "max_num_point": 40000, "max_num_point_pillar": 20, "back": -80.0, "front": 80.0, "right": -80.0, "left": 80.0, "bottom": -4.0, "top": 4.0, "r_lower": 0.0, "r_upper": 255.0, "x_scale": 0.2, "y_scale": 0.2, "x_bev_scale": 0.1, "y_bev_scale": 0.1, "run_on_dsp": false }

同时修改了workflow_latency.json中对应的pc_range，以及预处理代码中的涉及点云维度的部分（修改为4维）。然后发生了检测框角度出错的问题，请问是否还有别的部分需要同时修改？

算法工具链
征程5
评论1
0/1000
  • Huanghui
    Lv.5

    你好，qat模型就是FBC，conver后compile之前还存在一个conver后的QBC的模型，使用 hb_verifier比较一下 FBC 和QBC的一致性呢，或者分享你一下你的模型和验证工程

    2025-01-14
    0
    5
    • 默认82368回复Huanghui:

      我这里显示hb_verfier当前只支持onnx和bin models，是版本不对吗？

      2025-01-15
      0
    • Huanghui回复默认82368:

      J5工具链的最新版本是1.1.77，目前确实只支持 onnx和bin models ，抱歉是我记成J6的了，qat模型和hbm有差距这种情况是可能的，目前的建议是加入更多数据集和epoch再多训练一下看看，排查数据不足导致的问题。

      2025-01-15
      0
    • 默认82368回复Huanghui:

      这里的训练值得是qat训练的epoch和数据可能不足还是说浮点数模型？

      2025-01-15
      0
    • 默认82368回复Huanghui:

      但是我看tools/infer.py中用的就是qat-checkpoint-best.pth.tar，理论上和hbm应该是差了一个compile的过程，这个过程中应该并不涉及训练

      2025-01-15
      0
    • Huanghui回复默认82368:
      2025-01-23
      0