专栏算法工具链[BUG] X3 量化精度最后一层掉的很厉害

[BUG] X3 量化精度最后一层掉的很厉害

已解决
tripleMu2023-02-02
48
3

量化工具:

hub.hobot.cc/aitools/ai_toolchain_centos_7_xj3 v2.4.2 d88e5e95612f 5 weeks ago 32.3GB

模型来自: https://github.com/ultralytics/ultralytics/pull/771

是最新的 yolov5u 系列，导出 ONNX 不包含后处理，最后的分类头的 sigmoid 导出了，但是量化后 sigmoid 之前的层都正常，就 sigmoid 有问题。

ONNX:

链接: https://pan.baidu.com/s/1t_0O9NQQF7jk9eSniUe2Dg 提取码: 99m5

--来自百度网盘超级会员v4的分享

算法工具链
评论3
0/1000
  • tripleMu
    Lv.1
    2023-02-03
    0
    0
  • 颜值即正义
    Lv.2

    您好，建议您将输出部分的sigmoid节点，在yaml文件中配置run_on_cpu参数将sigmoid算子强制跑在cpu上

    配置后，模型转换情况如下图：

    2023-02-03
    0
    0
  • 颜值即正义
    Lv.2
    2023-04-24
    0
    0