专栏算法工具链模型量化后在x86仿真平台上通过python模拟推理无识别结果

模型量化后在x86仿真平台上通过python模拟推理无识别结果

已解决
fataJtz2026-06-12
154
4

你好,我将我的yolov8进行量化后在x86上以python模拟推理结果无目标框,原onnx模型识别正确,以_optimized_float_model.onnx模型也有结果但是以其他格式包括bc模型就无法推理出目标。我通过hb_verifier对大致模型均进行了对比(疑问.cpp),也尝试过使用int16量化,不知道是什么问题。类似推理脚本我在yolov5模型中是能够正常进行的。量化时控制台有提醒dfl模块的形状好像对不齐。

附件:
算法工具链
技术深度解析征程6
评论4
0/600
  • fataJtz
    Lv.1

    分析数据后发现分类分支量化后会出现大幅度的退化

    2026-06-15
    0
    0
  • fataJtz
    Lv.1

    采用默认量化方法效果得到一定改善

    2026-06-15
    0
    0
  • YCJ
    Lv.4

    检查一下校准数据的准备是否正确,检查一下模型的前处理代码是否正确

    2026-06-23
    0
    0
  • HuangHui
    Lv.5

    客户您好,鉴于长时间未收到你的答复,我们暂将该问题做关闭处理,如您仍有相同问题,请在新的帖子中重新发起提问,祝您工作愉快!

    2026-07-03
    0
    0