论坛算法工具链【J6M/OE3.10.0】配置了 std_value 后 input_type_rt/train 能否配成一样?板端 HBRuntime 加载 .bc模型 应如何喂 int8 NHWC 输入?

【J6M/OE3.10.0】配置了 std_value 后 input_type_rt/train 能否配成一样?板端 HBRuntime 加载 .bc模型 应如何喂 int8 NHWC 输入?

默认9734418小时前
4
0
环境:
  • 板子:J6M(march: nash-m),Debian,Python 3.x

  • 工具链:OE v3.10.0(hbdk 4.13.3),

  • 运行方式:from horizon_tc_ui.hb_runtime import HBRuntime 加载 .bc 模型
  • 模型:输入 1x3x544x960 的检测+分割 ONNX(训练输入为 RGB、NCHW、/255 归一化)

转换 yaml(input_parameters 节选):
推理代码:
现象:
  1. 喂 (rgb图-128).astype(np.int8) 的 NHWC int8:能跑通,但检测结果完全不对(框和类别全乱);
  2. 换其他格式(uint8 原图 / float32 归一化后 / NCHW 排布)喂入:直接报输入类型/形状不匹配的错误。

想请教的问题:
  1. 配置了 mean_value/scale_value/std_value 时,input_type_rt 与 input_type_train 是否支持配成一样的值(比如都配 rgb)?

  2. 如果支持配一样:? 具体:
    • yaml 的 input_type_rt/train/norm_type 应如何组合?

    • 校准数据应准备成什么格式/分布?

  3. 如果问题 1 的答案是不支持,那input_type_rt 是否只能是nv12?

期待解答,谢谢!

算法工具链
技术深度解析征程6
评论0
0/600