专栏算法工具链uint8的图片数据输入相对float32的图片类型输入精度损失

uint8的图片数据输入相对float32的图片类型输入精度损失

爱学习的班马2026-04-17
66
6

J6M

OE包：3.7.0

我在将hbm与bc文件的图片输入用nv12的int8数据类型输入到模型中进行推理的结果与直接采用float32的图片数据输入时，有精度损失，不过这个具体的精度损失还没有进行评测。
但从肉眼上来看，精度损失应该不小，我想问一下，我应该从哪几个方面去解决这个问题呢？
算法工具链
技术深度解析征程6
评论3
0/600
  • 爱学习的班马
    Lv.3
    感谢杨工，黄工等人的耐心讲解，终于对齐了yeahyeah_org.svg
    2026-04-21
    1
    1
    • YCJ回复爱学习的班马:

      问题解决了就好！后续遇到问题随时交流

      2026-04-21
      0
  • YCJ
    Lv.4
    我理解的意思是板端hbm吃的nv12的推理结果和x86上bc采用float32图片的推理结果不一致是这意思吗？
    2026-04-20
    0
    2
    • 爱学习的班马回复YCJ:

      对

      2026-04-20
      0
    • 爱学习的班马回复YCJ:

      我还在排查

      2026-04-20
      0
  • 爱学习的班马
    Lv.3
    2026-04-20
    0
    0