专栏算法工具链如何控制J6上Argmax输出的数据类型

如何控制J6上Argmax输出的数据类型

已解决
精灵ECHO2025-03-03
63
8
想问一下如何控制J6上Argmax输出的数据类型
目前转出来的hbm模型输出是int64的，比如想以Int8或Int32输出应该改哪些参数
算法工具链
征程6
评论2
0/1000
  • Huanghui
    Lv.5

    你好，你的onnx模型文件argmax输出是什么类型的

    2025-03-03
    0
    6
    • 精灵ECHO回复Huanghui:

      onnx模型里argmax输出是int64

      2025-03-03
      0
    • Huanghui回复精灵ECHO:

      先将onnx模型文件里面的输出改成FP32吧

      2025-03-03
      0
    • 精灵ECHO回复Huanghui:

      我现在主要想要int8的输出，我去改成int8试一下

      2025-03-03
      0
    • Huanghui回复精灵ECHO:
      板端支持的输入类型就是int8的
      你现在不是需要做量化导出来hbm吗 ，你直接把onnx改成int8就没意义了啊 ，量化就是从高精度表示量化到低精度表示 。
      2025-03-03
      0
    • 精灵ECHO回复Huanghui:
      没懂您这个回复是什么意思。。
      Argmax本身输出index值，和量化没关系
      2025-03-03
      0
    • Huanghui回复精灵ECHO:

      如果你仅仅是想改argmax的类型别的类型没问题那可以照你说的改下试下

      2025-03-03
      0
  • 默认25184
    Lv.1

    hello，请教下你后来是咋改的？

    2025-03-10
    0
    0