专栏算法工具链hb_mapper checker报错assert len(attribute.ints) == 4

hb_mapper checker报错assert len(attribute.ints) == 4

已解决
zombder2022-08-12
17
4

用户您好,请详细描述您所遇到的问题。

1.硬件获取渠道:

2.当前系统镜像版本:1.1.16

3.当前天工开物版本:1.1.16_20220704

4.问题定位:

hb_mapper checker时候log报错:

是在convert_conv函数中,这个和转TensorRT engine时候报错 Assertion failed: dims.nbDims == 4 || dims.nbDims == 5 是相同类型的问题吗?如何解决?

我用pytorch1.9训练,转onnx的环境是pytorch1.7 + opset11

5.开发的demo/案例:

6.需要提供的解决方案:

算法工具链
征程3征程5
评论1
0/1000
  • 颜值即正义
    Lv.2

    您好,初步分析是您的conv算子中pads属性不是4维导致的问题,可以使用netron工具可视化一下您的onnx模型,点击对应的conv算子,截图发一下pads属性的界面吗?如下图所示。

    方便我们进一步解决问题哈!

    2022-08-12
    0
    3
    • zombder回复颜值即正义:

      感谢,用netron看了一下确实不是4维,这个在模型定义时候应该怎么改呢?

      2022-08-12
      0
    • zombder回复颜值即正义:

      可能是因为我用的Conv1d,现在对Conv1d有支持吗?

      2022-08-12
      0
    • 颜值即正义回复zombder:

      您好,目前还不支持Conv1d,建议您更换成Conv2d哈

      2022-08-12
      0