专栏算法工具链moe-llava模型转换报错

moe-llava模型转换报错

已解决
2025-11-07
31
4

J6 3.3.0

使用 MoE-LLaVA-Qwen-1.8B-4e 进行模型转换时,在第一步hb_compile时报错:

error message: [ONNXRuntimeError] : 9 : NOT_IMPLEMENTED : Could not find an implementation for Trilu(14) node with name 'model/transformer/h.0/attn/Trilu'

模型链接:https://bgithub.xyz/PKU-YuanGroup/MoE-LLaVA.git  onnx opset=14 

算法工具链
征程6
评论2
0/1000
  • Vincent
    Lv.4

    你好,这个是 Trilu 算子不支持。

    2025-11-07
    0
    2
    • 回复Vincent:
      但是我自己搭建了简单的demo模型测试下来算子是支持的kuxiao_org.svg
      2025-11-07
      0
    • Vincent回复:

      尝试更换一下onnx模型的opset导出版本呢

      2025-11-24
      0
  • Vincent
    Lv.4

    可以尝试进行算子替换

    2025-11-07
    0
    0