专栏算法工具链模型量化时，matmul报错

模型量化时，matmul报错

已解决
皮卡丘2024-07-11
48
3

量化指定模型时，op MatMul报错

1. 芯片型号：J6M

2. 天工开物开发包 OpenExplorer 版本：horizon_j6_open_explorer_v3.0.17-py310_20240705

3. 问题定位：模型转换时，op Matmul报错

4. 问题具体描述：

执行的命令：hb_compile --model ../models/onnx/plan.onnx --march "nash-m"

对应的python代码：hat/models/base_modules/attention.py:314

 
附件:
算法工具链
征程6
评论1
0/1000
  • kotei左文亮
    Lv.3

    问题已经关注，请稍等。

    2024-07-11
    0
    2
    • 皮卡丘回复kotei左文亮:

      已经解决。matmul操作的维度过大，超过10000导致的。减小维度后，量化通过。

      2024-07-11
      1
    • kotei左文亮回复皮卡丘:

      OK

      2024-07-11
      0