专栏算法工具链量化bevformer失败

量化bevformer失败

已解决
皮卡丘2024-08-05
321
7

1. 芯片型号：J6M

2. 天工开物开发包 OpenExplorer 版本：horizon_j6_open_explorer_v3.0.17-py310_20240705.tar.gz

3. 问题定位：模型转换

4. 问题具体描述：使用export_onnx.py导出示例bevformer后，使用命令hb_compile进行量化，检查通过，量化失败。使用的配置文件如附件，报错如下：


附件:
算法工具链
技术深度解析征程6
评论1
0/1000
  • momo（社区版）
    Lv.4

    hello,从报错来看是量化参数问题，麻烦先使用fast_perf接口编译一下bevformer.onnx看一下，参考命令

    hb_compile --fast-perf --model bevformer.onnx --march nash-m

    2024-08-05
    0
    6
    • momo（社区版）回复momo（社区版）:

      如果使用fast-perf接口编译仍然报错，麻烦联系地平线的对接人员释放新版本的编译器

      2024-08-05
      0
    • 皮卡丘回复momo（社区版）:

      fast_perf接口编译仍然报错，错误不完全一致

      2024-08-05
      0
    • momo（社区版）回复皮卡丘:

      麻烦联系一下给您释放J6工具链的地平线人员，请他提供一下解决此问题的patch

      2024-08-05
      0
    • 皮卡丘回复momo（社区版）:

      我还有一个问题。我通过qat相关脚本，export_hbir.py compile_perf_hbir.py，编译生成了bevformer.hbm文件，加载到板端运行时，板端报错如下：

      部署代码主要参考的是ucp_tutorial/dnn/basic_samples/code/00_quick_start/src/main.cc

      2024-08-05
      0
    • 皮卡丘回复皮卡丘:

      找到原因了，板端空间不够，模型拷贝出错了

      2024-08-05
      0
    • momo（社区版）回复皮卡丘:

      可以在/map文件夹下操作，userdata文件夹容量小


      2024-08-05
      0