专栏算法工具链qat.bc转hbm

qat.bc转hbm

爱学习的班马2026-04-10
50
3

J6M

OE包3.7.0

在对qat.bc生成quantized.bc文件时，我在进行batch拆分的时候，怎么可以不用将float32的输入数据类型转成int8的图片输入数据类型呢？

附件是我的bc转hbm的脚本
附件:
算法工具链
技术深度解析征程6
评论2
0/600
  • HuangHui
    Lv.5
    node.insert_image_preprocess的时候就已经要求是nv12de int8输入了，如果你不想转int8，不执行insert_image_preprocess就OK了。另外，batch拆分是insert_split，图片预处理是insert_image_preprocess，是两个不一样的操作哈，可以只用insert_split，不用insert_image_preprocess。
    2026-04-10
    0
    1
    • 爱学习的班马回复HuangHui:
      如果只将图片转nv12的话，是不是.insert_image_convert只用这个操作？
      2026-04-13
      0
  • 爱学习的班马
    Lv.3
    我还有一点疑问是，我在进行batch拆分的时候，当保证.bc与.hbm输入一样都是float32时，输出结果是可以对齐的，然后将.bc与.hbm的输入都转为int8，不进行YUV转换的时候，也会有一部分掉点，部分框就直接消失了；
    我在将转In8以及YUV的转换时，是进一步的框消失了
    2026-04-13
    0
    0