专栏算法工具链J5对scatter scatterND等算子的数据类型支持为float、int8、int32，但是在Torch转onnx时要求为int64

J5对scatter scatterND等算子的数据类型支持为float、int8、int32，但是在Torch转onnx时要求为int64

已解决
llll2023-01-06
108
8

用J5板端部署时，发现J5对scatter scatterND等算子的数据类型支持为float、int8、int32。但是在Torch转onnx时要求为int64，想问一下这种问题怎么处理。J5可以对这些算子提供int64的支持吗

算法工具链
征程5
评论2
0/1000
  • 颜值即正义
    Lv.2

    您好，模型转换的时候有些算子会被我们改成int32，是需要根据转换时的实际问题详细来看的，请您这边先试试模型转换，然后根据实际报错信息进行处理

    2023-01-06
    0
    6
    • llll回复颜值即正义:

      就是在实际转换时遇到的 ， ValueError: Shape currently only support FLOAT, INT8 and INT32 but gives INT64

      这是用J5转换是 shape算子的报错, 还有scatter使用时也会报这样的错

      2023-01-06
      0
    • llll回复颜值即正义:

      如果我在转onnx将数据类型设置为int32满足J5的数据类型，这转换的时候就好报IndexError: scatter_(): Expected dtype int64 for index或者类似的错，这里只支持int64

      2023-01-06
      0
    • 颜值即正义回复llll:

      您好，可以提供一下报错的完整log截图吗？我们这边定位一下问题

      2023-01-06
      0
    • llll回复颜值即正义:
      2023-01-06
      0
    • 颜值即正义回复llll:

      收到，我们这边分析一下

      2023-01-06
      0
    • 颜值即正义回复颜值即正义:

      该贴后续已转到J5专门的技术支持人员那边。

      2023-01-16
      0
  • 颜值即正义
    Lv.2
    2023-04-24
    0
    0