专栏算法工具链ptq量化时编译阶段出错求助

ptq量化时编译阶段出错求助

已解决
yy12342024-07-24
39
3

用户您好,请详细描述您所遇到的问题,详细的描述有助于帮助我们快速定位,解决问题~Thanks♪(・ω・)ノ

1. 芯片型号:J5

2. 天工开物开发包 OpenExplorer 版本:J5_OE_1.1.74

3. 问题定位:模型转换

在尝试一个新onnx模型ptq量化hb_mapper makertbin --fast-perf的过程中出错,看不出报错的原因,不知道需要从哪儿开始修改模型,部分log截图如下:

软件版本信息:

onnx模型信息:

之后有很多此类提示:(shape超出要求或不支持的广播方式等,很多节点都有这个提示)

这些提示之前量化其它模型时也遇到过,这个应该不会造成量化无法完成的吧,后面也打印完成量化模型,开始编译:

可能模型中有cpu节点存在,所以被拆分成多个子图,前两个子图编译如上图,一切正常,编译第三个子图时报错,看不出错误原因:

算法工具链
评论2
0/1000
  • GOYU\XU
    Lv.2

    报错截图提示是版本不匹配的, 可以换低版本的试试编译是否通过

    2024-07-24
    0
    1
    • yy1234回复GOYU\XU:

      好的,谢谢。换了老版本尝试,现象确实不一样了。

      2024-07-24
      0
  • 默认38336
    Lv.1

    您好,我也遇到了这个问题,请问是怎么解决的?

    2025-04-18
    0
    0