Yolov11n-seg转化成hbm输出如何解码？

已解决

默认657282026-07-15

138

采用OE的J6工具链转化一个.onnx的Yoloseg模型（经过验证可以准确高置信度识别），output0和output1应该如何解码？尝试了多种方式，无一例外的地置信度和识别错误。模型量化时的余弦相似度output0和output1分别为0.999+和0.975+

算法工具链

技术深度解析征程6

0/600

XZH
Lv.2
建议选取同一张原始输入图像，确保ONNX与HBM侧的预处理完全一致，执行推理后，分别对比output0、output1的余弦相似度。若HBM与ONNX输出已存在明显偏差，则问题更可能出在量化校准阶段此时即使后处理实现正确，也难以得到正常的检测结果。若两端原始输出基本一致，再继续聚焦前后处理的逻辑。
2026-07-15
0
1
- 默认65728回复XZH:
  您好！output0的余弦相似度很高，output1较低，如果按照onnx模型相同的预处理和解码方式，所有的识别置信度都为0，conf通道均为0，不知道是什么引起的
  2026-07-16
  0
  回复
XZH
Lv.2
麻烦您补充以下信息，方便进一步定位：1.hb_model_info的输出结果。2.HBM推理时的预处理代码，output0,output1的后处理、解码代码。3.ONNX侧验证正常时使用的预处理和后处理代码。4.工具链版本和芯片型号。若篇幅受限可以考虑发送网盘链接给我
2026-07-16
0
4
- XZH回复XZH:
  还要麻烦您提供一下量化时候的配置yaml文件以及您使用的onnx模型，方便我复现您的问题帮您排查。
  2026-07-16
  0
  回复
- 默认65728回复XZH:
  您好！非常感谢您的回复，我将yaml里的nput_type_rt改为nv12，在测试hbm模型的时候先将图片转为nv12格式再识别，成功输出了和onnx识别相同的类型和置信度，只是结果可视化以后检测框比onnx模型的大一圈，推测是output1余弦相似度只有0.97+引起的。如果想提高识别形状精度，除了增加校准图片数量还有什么建议吗？校准图片数量过大占满内存导致卡死或被系统kill有什么解决方法吗？现在校准图只有100张，197张就会占满内存造成卡死。谢谢！
  2026-07-16
  0
  回复
- XZH回复默认65728:
  您好，要提升识别精度可以让校准集尽可能覆盖实际使用场景中的目标尺寸、距离、光照、背景，避免机械增加相似的图片。此外也可以通过horizon_plugin_profiler.model_profilerv2下的QuantAnalysis来计算各个量化节点对最终精度的影响，敏感度高的算子可以设置为int16或更高精度类型。
  校准图片占满内存这个问题是因为在horizon_tc_ui/utils/tool_utils.py (line 197)这个文件中一次性将所有的图片进行了加载，所以当校准集数量变多就会占满内存。但是100张校准集已经足够用来校准了，再去加校准数据集带来的收益不如用上面的方式去排查~
  2026-07-17
  0
  回复
- 默认65728回复XZH:
  十分感谢
  2026-07-17
  0
  回复