专栏算法工具链三个预处理的作用疑问

三个预处理的作用疑问

已解决
默认383362025-03-25
60
2

在ptq量化过程中，涉及三部分预处理：preprocess里的校准数据预处理，preprocess里的infer数据预处理infer_transformers和yaml文件里norm_type处配置的均值和缩放。后两者作用的时间相同吗？以及如果网络训练时有归一化等操作，三个里面哪部分需要保持一致的操作？感谢解答

算法工具链
征程5
评论1
0/1000
  • Huanghui
    Lv.5

    你好，网络训练时候有归一化操作，如果你在PTQ的yaml文件中设置成featuremap，那么你就把你的校准集和推理数据都这样按照浮点模型训练数据集那样处理就好，不需要配置YAML文件中的mean和scale_value.因为你已经处理过了。如果你设置成nv12这种，就把浮点模型训练时候的mean和scale_value值写到yaml文件中，不需要额外进行手写preprocess.py预处理代码来处理校准集和推理图片了，模型内部会做

    2025-03-26
    0
    1
    • 默认38336回复Huanghui:

      OK谢谢

      2025-03-27
      0