专栏算法工具链featuremap作为输入，怎么处理

featuremap作为输入，怎么处理

已解决
ZQQ2025-03-11
70
10

featuremap 40x128x128x2,作为输入，怎么处理？

 

算法工具链
征程5
评论2
0/1000
  • ZQQ
    Lv.1
    有参考代码嘛？总是报错beishang_org.svg

    2025-03-11
    0
    8
    • Huanghui回复ZQQ:

      在推理过程中 ，你的输入数据可以提前处理好的，跟你的校准集的数据处理过程一样。处理好后转换成bin文件，至于featuremap，你在PTQ过程中config里面直接指定输入数据类型的

      2025-03-11
      0
    • Huanghui回复ZQQ:

      这个是之前做的一个示例，输入作为featuremap数据类型的数据前处理方法，你参考下

      2025-03-11
      0
    • ZQQ回复Huanghui:
      是这样的阿，模型2个输入,40x128x128x2(float32),4x3x384x640(nv12),我初始化tensor的时候，首先分配内存，然后在把数据读进去，这样对嘛？
      2025-03-11
      0
    • ZQQ:

      运行的时候一直报数据类型不对，[E][DNN][hb_dnn_ndarray.cpp:189][Tensor](2024-05-08,18:07:31.628.623) data type of ndarray do not match specified type. NDArray dtype_: 4, given: 2

      2025-03-11
      0
    • Huanghui回复ZQQ:

      这个是双输入模型 板端部署，

      你参考下

      2025-03-11
      0
    • ZQQ回复Huanghui:
      这是chatgpt写的嘛？xiaoku_org.svg
      2025-03-11
      0
    • Huanghui回复ZQQ:

      不是，omnidet模型的部署代码啊，这个是双输入的，已经推理成功的

      2025-03-11
      0
    • Huanghui:

      指定featuremap时候就不需要计算mean value了你可以将原始数据输入的上面那段我之前是做了个归一化，

      2025-03-11
      0
  • DR_KAN
    Lv.4

    featuremap 输入在runtime_sample里是有推理示例代码的

    2025-03-13
    0
    0