专栏算法工具链量化25分类的yolov5s模型，导出的onnx与量化的onnx精度差异比较大

量化25分类的yolov5s模型，导出的onnx与量化的onnx精度差异比较大

已解决
lindsayshuo2023-02-22
91
9

量化25分类的yolov5s模型，导出的onnx与量化的onnx精度差异比较大，已经试了kl，default，以及max，模型链接：链接：https://pan.baidu.com/s/1jjengVuzv1suYIxX0WOLjg

提取码：j9kw

--来自百度网盘超级会员V5的分享

labels为：链接：https://pan.baidu.com/s/1LF5J4pH_QMU-E3TrAc6DDA

提取码：x7ek

--来自百度网盘超级会员V5的分享

算法工具链
评论2
0/1000
  • 颜值即正义
    Lv.2

    建议您参考这篇文章进行模型精度调优哈：https://developer.horizon.ai/forumDetail/71036815603174578

    2023-02-22
    0
    7
    • lindsayshuo回复颜值即正义:

      试了，不行，没搞定

      2023-02-23
      0
    • 颜值即正义回复lindsayshuo:

      你好，请问您的OE版本是多少啊？

      在精度调优文档中使用不同的校准措施刚导出的onnx精度和模型转换中间产物original_float_model.onnx精度能否对齐呢？

      2023-02-23
      0
    • lindsayshuo回复颜值即正义:

      就是这个对不齐

      2023-02-23
      0
    • 颜值即正义回复lindsayshuo:
      那就是前处理的问题哈，因为此时模型尚未进行量化和编译，只是插入了一个前处理节点。
      建议您仔细检查前处理部分的代码，比如代码均值、方差、归一化等操作和yaml配置中是否重复等
      2023-02-23
      2
    • lindsayshuo回复颜值即正义:

      均值在哪里查看呢

      2023-02-27
      0
    • 颜值即正义回复lindsayshuo:

      这个需要查看你的源代码哈，yaml配置中的是mean_value参数

      2023-02-27
      0
    • 颜值即正义回复lindsayshuo:
      2023-02-27
      0
  • 颜值即正义
    Lv.2
    2023-04-24
    0
    0