专栏算法工具链Yolov5模型量化后指标掉点比较明显

Yolov5模型量化后指标掉点比较明显

fataJtz18小时前
22
0
image.png

我把一个yolov5模型量化后,在仿真x86端以bc模型进行评估结果如图所示,尝试采用全int16指标有一定提升,但是同原onnx模型还有一定差距,想问一下是否正常。若不正常是量化过程有问题吗。

算法工具链
技术深度解析征程6
评论0
0/600