专栏算法工具链PTQ部署示例YOLOv5x（J5）

PTQ部署示例YOLOv5x（J5）

已解决
默认730562024-12-17
85
5

依照J5的PTQ部署示例，产生以下问题：

YOLOv5x的train文件浮点模型输入格式为float.32，见下图：
YOLOv5x的val文件浮点模型输入格式也为float.32，见下图：

YOLOv5x.onnx经过Netron工具加载显示输入数据格式为float.32，如下图所示。

那么请问，为什么官方的PTQ部署示例中YOLOv5x的config文件的input_type_train设置的是rgb格式呢？

rgb格式不应该是uint8吗？

 

算法工具链
征程5
评论3
0/1000
  • Huanghui
    Lv.5

    这....RGB格式归一化后不就可以用f32表示了吗，这个只是我们的示例！

    2024-12-18
    1
    0
  • Huanghui
    Lv.5

    配置文件中runtime的类型是nv12的，nv12到原始的f32要经过格式转换和归一化等预处理操作，这里配置是让工具链执行器有nv12到RGB格式转换这个操作的

    2024-12-18
    1
    2
    • 默认73056回复Huanghui:

      感谢您的回复！有个问题还想和您确认一下，是不是说input_type_rt只是指定了推理阶段的输入数据格式，它还会首先按照 input_type_train和 norm_type 等参数进行数据预处理，最后再送入bin文件执行推理？

      2024-12-18
      0
    • Huanghui回复默认73056:

      不是， 你可以这样理解：把bin当成黑盒，提供给bin的数据格式就是 input_type_rt 定义的。 bin 拿到数据之后会先进行数据的预处理（格式转化、归一化...这些） ，处理完了再进行网络推理。预处理 +网络推理 都打包在bin中了

      2024-12-18
      1
  • DR_KAN
    Lv.4

    input_type_train和你训练时使用的数据类型是相同的，训练时用rgb，那这个参数就要配置rgb。至于为什么是float，因为uint8的rgb会经过mean/scale的归一化处理，处理完之后就变成float了，所以这个是正常的

    2024-12-18
    1
    0