专栏算法工具链征途J5 在量化模型时遇到CONV_FOR_Add一类算子精度,导致输出异常的情况

征途J5 在量化模型时遇到CONV_FOR_Add一类算子精度,导致输出异常的情况

已解决
御坂美琴2023-01-06
59
7

一、工具链使用问题。

1、在J5上部署yolop(类似于yolov5)模型时,发现目标检测的输出的前景置信度为零,其他输出有一些精度误差。

2、尝试多种量化方法后,目标检测的box坐标部分精度有了提高,但输出的前景置信度依然为零。

3、使用hb_mapper infer工具运行 quantized_model.onnx和optimized_float_model.onnx,量化前后的模型。再使用vec_diff工具对比两个模型的输出后,发现

如图和附件所示,Conv_for_Add层的精度很低。

可能导致输出异常。

4、原onnx模型经过测试正常输出。

附件:
算法工具链
征程5
评论4
0/1000
  • 颜值即正义
    Lv.2

    根据csv文件看,模型的最后几层输出的余弦相似度都挺高的,部分中间层的相似度较低这种情况是正常的,主要还是看模型的输出

    2023-01-09
    0
    3
    • 御坂美琴回复颜值即正义:

      使用NV12作为输入后问题解决了

      2023-01-12
      0
    • 颜值即正义回复御坂美琴:

      好滴,解决就好

      2023-01-12
      0
    • 御坂美琴回复颜值即正义:

      感谢大佬

      2023-01-13
      0
  • 颜值即正义
    Lv.2

    您好,请问使用的征程J5工具链版本是?

    2023-01-09
    0
    0
  • 颜值即正义
    Lv.2

    根据您的问题描述,前景置信度为0,那是不是可以理解成无法生成box框,但您提到box坐标部分精度有所提升,如果置信度为0,是如何去生成box的呢?

    2023-01-09
    0
    0
  • 颜值即正义
    Lv.2
    2023-04-24
    0
    0