专栏算法工具链uint8的图片数据输入相对float32的图片类型输入精度损失

uint8的图片数据输入相对float32的图片类型输入精度损失

爱学习的班马2026-04-21
36
2

J6M

OE包:3.7.0

我在将hbm与bc文件的图片输入用nv12的int8数据类型输入到模型中进行推理的结果与直接采用float32的图片数据输入时,有精度损失,不过这个具体的精度损失还没有进行评测。
但从肉眼上来看,精度损失应该不小,我想问一下,我应该从哪几个方面去解决这个问题呢?
继续上次没解决的问题,麻烦继续解答一下。
https://developer.horizon.auto/forum/13560
算法工具链
技术深度解析征程6
评论1
0/1000
  • YCJ
    Lv.4

    看前处理bc模型的输入是yuv444的,nv12插入时node = node.insert_image_preprocess(mode="yuvbt601full2bgr"),将yuvbt601full2bgr改为NONE,和bc吃的数据类型保持一致

    2026-04-21
    1
    1
    • 爱学习的班马回复YCJ:

      好哒好哒,感谢感谢,对齐了

      2026-04-21
      0