J6M
OE包:3.7.0
我在将hbm与bc文件的图片输入用nv12的int8数据类型输入到模型中进行推理的结果与直接采用float32的图片数据输入时,有精度损失,不过这个具体的精度损失还没有进行评测。
但从肉眼上来看,精度损失应该不小,我想问一下,我应该从哪几个方面去解决这个问题呢?
继续上次没解决的问题,麻烦继续解答一下。
https://developer.horizon.auto/forum/13560
但从肉眼上来看,精度损失应该不小,我想问一下,我应该从哪几个方面去解决这个问题呢?
继续上次没解决的问题,麻烦继续解答一下。
https://developer.horizon.auto/forum/13560
