专栏算法工具链模型量化后在x86仿真平台上通过python模拟推理无识别结果

模型量化后在x86仿真平台上通过python模拟推理无识别结果

解答中
fataJtz2026-06-12
73
2

你好,我将我的yolov8进行量化后在x86上以python模拟推理结果无目标框,原onnx模型识别正确,以_optimized_float_model.onnx模型也有结果但是以其他格式包括bc模型就无法推理出目标。我通过hb_verifier对大致模型均进行了对比(疑问.cpp),也尝试过使用int16量化,不知道是什么问题。类似推理脚本我在yolov5模型中是能够正常进行的。量化时控制台有提醒dfl模块的形状好像对不齐。

附件:
算法工具链
技术深度解析征程6
评论2
0/600
  • fataJtz
    Lv.1

    分析数据后发现分类分支量化后会出现大幅度的退化

    9小时前
    0
    0
  • fataJtz
    Lv.1

    采用默认量化方法效果得到一定改善

    5小时前
    0
    0