专栏算法工具链模型转换时hb_compile进程被kill

模型转换时hb_compile进程被kill

已解决
皮卡丘2024-06-27
80
5

使用hb_compile量化模型时，进程被kill

  1. 芯片型号：J6E

  2. open_explorer： horizon_j6_open_explorer_v3.0.14-py310_20240613

  3. 问题：模型转换

  4. 执行命令：hb_compile --model ${onnx_model} --march nash-e

hb_compile申请内存超过83G

附件:
算法工具链
征程6
评论3
0/1000
  • Huanghui
    Lv.5
    2024-07-11
    0
    1
    • 皮卡丘回复Huanghui:

      hb_compile有办法输出当前正在转换哪一个op吗？

      如描述，这个问题是因为内存原因。工具异常吃入大量内存。但在缺少信息的情况下，我无法确定是哪一个op导致了这个问题。

      2024-07-11
      0
  • 皮卡丘
    Lv.2

    更新到docker_open_explorer_ubuntu_22_j6_gpu_v3.0.17版本后，不再申请过量内存，但是报告了其他错误。

    但是原始onnx模型中没有value onnx::MatMul_1569


    2024-07-15
    0
    1
    • 皮卡丘回复皮卡丘:

      模型已上传附件

      2024-07-15
      0
  • 皮卡丘
    Lv.2

    已经解决，输出tensor有一个为常量导致

    2024-07-17
    0
    0