专栏算法工具链qat.bc转hbm

qat.bc转hbm

爱学习的班马14小时前
5
1

J6M

OE包3.7.0

在对qat.bc生成quantized.bc文件时，我在进行batch拆分的时候，怎么可以不用将float32的输入数据类型转成int8的图片输入数据类型呢？

附件是我的bc转hbm的脚本
附件:
算法工具链
技术深度解析征程6
评论1
0/1000
  • Luomantiker
    Lv.5
    node.insert_image_preprocess的时候就已经要求是nv12de int8输入了，如果你不想转int8，不执行insert_image_preprocess就OK了。另外，batch拆分是insert_split，图片预处理是insert_image_preprocess，是两个不一样的操作哈，可以只用insert_split，不用insert_image_preprocess。
    10小时前
    0
    0