专栏算法工具链量化模型时,编译出错

量化模型时,编译出错

已解决
皮卡丘2024-11-01
109
9

1. 芯片型号:J6

2. 板卡类型:天准J6M

3. 天工开物开发包 OpenExplorer 版本:v3.0.22

4. 问题定位:模型转换

5. 问题具体描述:hb_compile --config config.yaml

模型编译时,出现下面错误

模型、数据集、config.yaml见百度网盘


附件:
算法工具链
征程6
评论4
0/1000
  • Huanghui
    Lv.5
    你好,上个帖子地平线开发者社区中我编译完了没有发现问题而且结果都附件给你了,这里的问题是修改了模型还是什么情况!
    2024-11-01
    0
    2
    • 皮卡丘回复Huanghui:

      修改了模型的一些参数。bev_h,bev_w,dim。之前是50,50,64,现在是100,100,256.正常是要使用100,100,256的。修改了scatterND算子。

      2024-11-01
      0
    • 皮卡丘回复Huanghui:

      有任何进展,麻烦请同步到论坛。多谢

      2024-11-05
      0
  • 皮卡丘
    Lv.2

    新的这个版本可以编译通过吗?

    2024-11-04
    0
    3
    • Huanghui回复皮卡丘:

      你好,因为模型比较大,下载和复现需要的时间比较长。目前复现了两次,从复现的情况看:“hb_compile --fast-perf -m VAD.onnx --march nash-m”是可以正常变异的,但是“hb_compile -c config.yaml” 编译确实遇到的你的问题,你可以可以在尝试一下具体引入该错误的配置项。我这边还要double check一下这个现象,如果确有问题,需要编译的同事协助排查,排查有结果了会同步你。需要注意:问题进入研发同事排查时间依赖他们的任务排布,可能会比较久哈

      2024-11-05
      0
    • Huanghui回复皮卡丘:

      你好,请使用新的工具链补丁包进行编译,目前补丁包(upgrade_package)已经上传至链接: https://pan.baidu.com/s/1hje7rXEzKDmgaZe5_pG9iA?pwd=67p4 ,另外也附加了使用补丁包后的编译结果(20241111.tar.gz)供参考。

      说明:目前的补丁包尚处于优化阶段,使用时校准和编译过程可能需要更多时间,请 耐心等待。目前测试的结果是可以正确生成最终hbm的。

      2024-11-12
      0
    • 皮卡丘回复Huanghui:

      收到

      2024-11-12
      0
  • Huanghui
    Lv.5

    收到,我们先看看!

    2024-11-01
    0
    0
  • 皮卡丘
    Lv.2

    通过网盘分享的文件:j6.rar

    链接: https://pan.baidu.com/s/1PS6HmSuZfNjkLngQmCRdsA?pwd=qvw5 提取码: qvw5 

    --来自百度网盘超级会员v4的分享

    2024-11-01
    0
    0