专栏算法工具链hb_mapper makertbin编译QAT模型

hb_mapper makertbin编译QAT模型

已解决
yy12342024-03-27
117
6

用户您好,请详细描述您所遇到的问题,详细的描述有助于帮助我们快速定位,解决问题~Thanks♪(・ω・)ノ

1. 芯片型号:J5

2. 天工开物开发包 OpenExplorer 版本: J5_OE_1.1.68

3. 问题定位:模型转换

4. 问题具体描述:你好,使用论坛中petr模型的教程,浮点训练,qat,推理,转hbm都能跑通。想尝试保存量化后的onnx,然后走hb_mapper makertbin流程设置calibration_type为load编译成板端的bin模型。

使用qat导出模型用的这样的配置:是示例代码中自带的

编译过程报错:hbdk-cc compile hbir model failed with returncode -6.

请问转onnx的配置没有问题吧,这个报错是什么原因

算法工具链
技术深度解析
评论6
0/1000
  • GOYU\XU
    Lv.2

    参考论坛的哪个地址呀,麻烦发过来帮你看下

    2024-03-27
    1
    0
  • GOYU\XU
    Lv.2

    你是在转onnx过程中报错的吗?我去帮你问下这种路线是否支持

    2024-03-29
    0
    0
  • yy1234
    Lv.2
    转onnx时没有报错,可以成功转出浮点的onnx及量化后的onnx。报错是对量化后的onnx使用hb_mapper makertbin工具进行编译成板端部署模型出错的,这个流程应该是可以通的,和一般的ptq相比只需要把calibration_type设置为load即可,但目前有报错,不确定是转出的onnx有问题还是hb_mapper makertbin工具的问题
    2024-03-29
    0
    0
  • GOYU\XU
    Lv.2

    能否把资料发给我,我这边帮你验证下流程

    2024-03-29
    0
    0
  • GOYU\XU
    Lv.2

    不好意思,您的问题已经超过三天时间,未能提供技术细节,已经自动关闭。如有需要请重新开帖子进行提问。


    2024-04-11
    0
    0