OE Agent“天工”新版本发布，请前往论坛顶部查看，欢迎试用并反馈～
查看OE-Skills
专栏算法工具链Yolov11n-seg转化成hbm输出如何解码？

Yolov11n-seg转化成hbm输出如何解码？

解答中
默认6572816小时前
35
1

采用OE的J6工具链转化一个.onnx的Yoloseg模型（经过验证可以准确高置信度识别），output0和output1应该如何解码？尝试了多种方式，无一例外的地置信度和识别错误。模型量化时的余弦相似度output0和output1分别为0.999+和0.975+

算法工具链
技术深度解析征程6
评论1
0/600
  • XZH
    Lv.1

    建议选取同一张原始输入图像，确保ONNX与HBM侧的预处理完全一致，执行推理后，分别对比output0、output1的余弦相似度。若HBM与ONNX输出已存在明显偏差，则问题更可能出在量化校准阶段此时即使后处理实现正确，也难以得到正常的检测结果。若两端原始输出基本一致，再继续聚焦前后处理的逻辑。

    14小时前
    0
    0