专栏算法工具链J6M PTQ量化出bc及hbm模型输入为NHWC，原始模型输入为NCHW，无法正确推理

J6M PTQ量化出bc及hbm模型输入为NHWC，原始模型输入为NCHW，无法正确推理

已解决
默认579842025-07-23
60
10

1.J6

2. 使用v3.031OE包

  1. 在prepare_tensor时候打印的输入input.properties.validShape.dimensionSize为 1x384x640x3（NHWC）（J5上这个size为NCHW）

算法工具链
技术深度解析
评论2
0/1000
  • 默认57984
    Lv.1

    直接使用命令行 ： hb_compile-c xxx.yaml进行量化

    2025-07-23
    0
    0
  • Huanghui
    Lv.5

    你好，你看下你实际推理时候，输入的数据shape是什么

    2025-07-24
    0
    8
    • 默认57984回复Huanghui:

      使用的是00_quickstart里resnet_rgb里的readimage_2_tensoras_rgb函数，将其中的BGR转RGB通过如下代码屏蔽，我理解这地方的输入是BGR格式的NHWC

      2025-07-24
      0
    • Huanghui回复默认57984:

      用hrt_model_exec 工具查看下模型的输入数据shape要求，在把你实际的输入数据的shape打印下看下呢

      2025-07-24
      0
    • Huanghui回复默认57984:

      或者模型发过来验证一下

      2025-07-24
      0
    • 默认57984回复Huanghui:
      实际输入数据的shape该如何打印呢？readimage_2_tensor_rgb函数里应该大小跟这个一样？
      2025-07-24
      0
    • Huanghui回复默认57984:

      就是你推理时候的数据图像，

      2025-07-28
      0
    • Huanghui回复默认57984:

      或者你可以将数据类型指定为featuremap格式，然后数据的layout分布改成NCHW，featuremap是NCHW的

      2025-07-28
      0
    • Huanghui回复默认57984:

      你推理时候的数据是不是RGB的啊，你的配置那里是BGR的

      2025-07-28
      0
    • 默认57984回复Huanghui:

      RGB和BGR都试过 无输出，后续试了input_typr_rt除了rgb和bgr的其他格式，都能量化出模型 且bc及hbm模型都能在x86端正确推理

      2025-07-29
      0