专栏算法工具链模型量化过程问题求助

模型量化过程问题求助

已解决
BEAROCKETMAN2023-06-27
82
3

在进行模型量化阶段执行hb_mapper makertbin的时候输入array大小出现不匹配该怎么解决,数据预处理的时候已经将图片resize成对应大小了,数据类型也进行了转化,输入尺寸也是匹配的:

if name=='__main__':
imgpath='/home/gawain/dok/pose/val'
src_images=os.listdir(imgpath)
dstpath='/home/gawain/dok/pose/valbin'
print('tr start, wait for a sec')
for i, x in enumerate(src_images):
x=imgpath+'/'+x
img=cv2.imread(x)
img=cv2.resize(img, (368, 368))
img=np.transpose(img, (2, 0, 1))
img=np.expand_dims(img, axis=0)
img=img.astype(np.float32)
img.tofile(f'{dstpath}/{i}.bgr'
)

已经够验证过图像的array大小是符合要求的,但是载入尺寸显示很大是为什么
865273f51302b220ac3613d04cff730.png865273f51302b220ac3613d04cff730.png
算法工具链
评论1
0/1000
  • 颜值即正义
    Lv.2

    您好,建议图片预处理完之后把尺寸打印出来看看,看是否和模型输入严格对齐

    2023-06-27
    0
    2
    • BEAROCKETMAN回复颜值即正义:

      您好,打出来了,已确认对齐,二进制读出后array总长是406,272

      2023-06-27
      0
    • 颜值即正义回复BEAROCKETMAN:

      在yaml文件中将input_type_rt设置为nv12,同时将input_layout_rt注释掉,再试试

      2023-06-27
      0