专栏算法工具链BEV_LSS板端部署

BEV_LSS板端部署

已解决
ZQQ2025-03-06
118
18
BEV_LSS板端部署，在准备数据是，points的数据类型是float32,可以正常部署吗？一定要用int16的吗？

 

算法工具链
征程5
评论3
0/1000
  • ZQQ
    Lv.1
    转模型的时候points一定要reshape成NCHW吗?NHWC可以跑吗

    2025-03-06
    0
    3
    • Huanghui回复ZQQ:

      是NCHW还是NHWC要看你的数据格式，以及你的config文件里面的配置

      2025-03-06
      0
    • Huanghui:

      比如你用opencv读取数据格式是HWC，而你的config里面是CHW那么就需要reshape

      2025-03-06
      0
    • Huanghui回复ZQQ:

      尽量在config里面配置成NCHW格式，然后你的数据格式保持一致

      2025-03-06
      0
  • Huanghui
    Lv.5

    你好，你的意思是校准数据吗？

    2025-03-06
    0
    4
    • ZQQ回复Huanghui:

      不是,就正常的数据,我用np.float32存的,bin模型文件的输入数据类型也是float32

      2025-03-06
      0
    • Huanghui回复ZQQ:

      它里面应该会自动转的，即使是float32

      2025-03-06
      0
    • Huanghui回复Huanghui:

      你这是J5吗里面有示例教程，你可以看下，包括数据格式数据前处理。

      2025-03-06
      0
    • Huanghui回复Huanghui:

      featuremap适用于以上列举格式不满足您需求的情况，此type每个数值采用float32表示。例如雷达和语音等模型处理就常用这个格式。

      2025-03-06
      0
  • ZQQ
    Lv.1

    这是为啥?points文件数据类型是numpy.int16的,
    2025-03-06
    0
    8
    • ZQQ回复ZQQ:
      2025-03-06
      0
    • Huanghui回复ZQQ:
      2025-03-06
      0
    • Huanghui回复ZQQ:

      你把数据类型换成F32试下呗

      2025-03-06
      0
    • ZQQ回复Huanghui:
      数据类型换成了float32的,也还是报错
      [E][DNN][hb_dnn_ndarray.cpp:189][Tensor](2024-05-09,01:49:34.505.622) data type of ndarray do not match specified type. NDArray dtype_: 4, given: 2 ,这是为什么?看起来像是easydnn框架的错误
      2025-03-06
      0
    • Huanghui回复ZQQ:

      把数据类型换成uint8试一下，还不就是int8，应该就可以

      2025-03-06
      0
    • Huanghui回复ZQQ:

      dtype_4应该表示uint8，dtype_2表示f32

      2025-03-06
      0
    • ZQQ回复Huanghui:

      这个是不是说错了？dtype_4应该表示int16，dtype_2表示int8阿？

      2025-03-11
      0
    • ZQQ回复Huanghui:
      我给tensor分配内存后，全部初始化为0,请问下为啥也报这种错误？是模型量化有问题嘛？

      2025-03-11
      0