专栏算法工具链hb_mapper是否支持int类型输入?

hb_mapper是否支持int类型输入?

已解决
zombder2022-08-12
36
3

用户您好,请详细描述您所遇到的问题。

1.硬件获取渠道:技术合作

2.当前系统镜像版本:1.1.16

3.当前天工开物版本:1.1.16_20220704

4.问题定位:

pytorch训练了一个模型,一共四个输入,其中两个是torch.float32类型的两个是torch.int32类型的。使用hb_mapper checker命令时候报错:

貌似是给int类型的输入提供了float类型的数据?hb_mapper是否默认全都用float类型数据做calibration?

5.开发的demo/案例:

6.需要提供的解决方案:

算法工具链
征程5征程3
评论1
0/1000
  • 颜值即正义
    Lv.2

    您好,我们目前是不支持int32类型输入的,建议您把int32类型的输入改为float32哈。

    2022-08-12
    0
    2
    • zombder回复颜值即正义:

      后续有计划支持吗,我这输入是当mask用的,int方便些。

      2022-08-12
      0
    • 颜值即正义回复zombder:

      抱歉,目前还没有这个计划哈。

      2022-08-12
      0