专栏算法工具链ptq的yaml问题

ptq的yaml问题

已解决
浮浮浮2025-11-28
55
2
oe 3.5.0

在对sparse 4d进行ptq时,使用参考的py文件和yaml,请问,问什么推理bc文件的结果不正确。是哪里配置出现问题了吗?是不是需要校准阶段和推理阶段保持一致,都归一化。

 

看OE例程里面一般input_type_rt都设为了nv12,如果我设为rgb时用量化的bc去推理好像都得不到想要的结果。

算法工具链
征程6
评论1
0/1000
  • Huanghui
    Lv.5

    你好,你的校准集如何处理的?数据类型是否与input_type_train保持一致为rgb类型?另外数据排布是否与NCHW一样呢?在推理时候,input_type_tr数据的排布又是怎样的?

    2025-12-01
    0
    1
    • 浮浮浮回复Huanghui:

      校准数据集和推理数据集是保持一致的,与yaml保持一致

      2025-12-02
      0