专栏算法工具链J6 PTQ生成bc模型无法进行04_nference推理

J6 PTQ生成bc模型无法进行04_nference推理

已解决
默认579842025-07-24
38
7

1.J6

2.V3.031

3. input_typr为bgr时编译生成的bc模型无法通过示例04_inference推理，报ERROR cannot reshape array of size 245760 into shape (1,384,640,3)  input_type_rt为NV12/featuremap格式生成的bc模型都可通过该脚本推理

 

infer_transformer如下：因生成的bc模型为NHWC所以未进行hwc转chw

def infer_transformers(input_shape, input_layout):

"""

step:

1. Crop a square of 672x672 pixels with border padding of 127

2. Convert BGR to RGB

3. Convert RGB to NV12

:param input_shape: input shape(target size)

:param input_layout: NCHW / NHWC

"""

transformers = [
ResizeTransformer(target_size=(model_input_height, model_input_width), mode= 'opencv', method=1),

# HWC2CHWTransformer(),

# BGR2RGBTransformer(data_format="HWC"),

# BGR2NV12Transformer(data_format="HWC")

# HWC2CHWTransformer(),

# BGR2RGBTransformer(data_format="HWC"),

# RGB2NV12Transformer(data_format="HWC")

]

return transformers

 

 

算法工具链
技术深度解析征程6
评论1
0/1000
  • Huanghui
    Lv.5

    你好，那你如果调整数据通道顺序，与模型输入shape适配，还会有这个问题吗

    2025-07-25
    0
    6
    • 默认57984回复Huanghui:

      一样有这个问题，这地方将数据转换成NCHW或NHWC都报这个错误

      2025-07-25
      0
    • Huanghui回复默认57984:
      我刚看了下04的代码，它走的是HB_runtime模型推理，也就是else分支。然后会进行NV12 到yuv的转换
      2025-07-25
      0
    • Huanghui:

      你输入BGR可能就不行了

      2025-07-25
      0
    • Huanghui回复默认57984:

      我是这么理解的

      2025-07-25
      0
    • 默认57984回复Huanghui:

      我对这部分进行了更改，将feed_data数据处理成infer_transform处理后的结果跳过图示这些代码，并且将数据转成si8格式，再用这个inference推理，结果能正常运行，但没有输出（检测结果为空）

      2025-07-25
      0
    • Huanghui回复默认57984:

      不会是模型问题吧

      2025-08-21
      0