专栏算法工具链J5板上模型推理得分太低

J5板上模型推理得分太低

已解决
地久天长2024-07-04
59
10

1. 芯片型号:J5

2. 天工开物开发包 OpenExplorer 版本:1.1.68

3. 问题定位:J5板上模型推理得分太低

4. 问题具体描述:我们使用J5的EDK开发板,将我们自己训练的yolov5n的模型进行PC端和板上推理测试,附件的图片是测试结果,用同一张图片测试:

PC上执行bash 04_inference.sh origin命令,得分0.58
PC上执行bash 04_inference.sh quanti命令,得分0.5

在J5板上运行bin文件模型,得分只有0.1559

为什么差距这么大,应该如何提高板上模型的分值

附件:
算法工具链
评论1
0/1000
  • kotei左文亮
    Lv.3

    在转bin模型的过程中有没有什么问题,有没有log?

    2024-07-05
    0
    9
    • 地久天长回复kotei左文亮:

      在附件中添加了模型转换过程中的log文件。


      2024-07-05
      0
    • 地久天长回复kotei左文亮:

      我又仔细看了一下,当图片是彩色图时,bash 04_inference.sh quanti的得分与板上的得分差不多,但是如果是类似于附件中的灰度图,quanti的得分与板上的得分就相差非常大,有的灰度图在quanti的时候能识别7个目标,但是板上一个目标都识别不出来,板上我用的是ai_benchmark的程序,需要修改什么参数吗?

      2024-07-05
      0
    • 地久天长回复kotei左文亮:

      我感觉可能和input_offset=128有关,如何在使用bin模型文件时,在c++代码中加入128的offset


      2024-07-05
      0
    • kotei左文亮回复地久天长:

      这里指的是前处理做了offset 吗?

      2024-07-05
      0
    • kotei左文亮回复地久天长:

      如果是彩色图和灰度图的差别导致的结果不一样,那很可能与前处理有关。

      2024-07-05
      0
    • 地久天长回复kotei左文亮:

      在04_inference.sh脚本文件中有input_offset=128这个参数,如何将这个参数加入到板上推理的c++代码中?

      2024-07-05
      0
    • kotei左文亮回复地久天长:

      这个就要看你们的前处理代码怎么写的了。

      2024-07-08
      0
    • 地久天长回复kotei左文亮:

      我现在板上的程序就是地平线提供的ai_benchmark程序,我尝试了将模型转换时的配置文件里面的norm_type: 'data_scale'修改为data_mean_and_scale,然后mean_value设置了128,但是转换出来yolov5模型反而不如之前配置得分高,我现在就是想将bash 04_inference.sh quanti这条命令的结果在板上bin模型文件上复现,但是现在板上的效果非常差


      2024-07-08
      0
    • kotei左文亮回复地久天长:

      那你试一下,在输入图像预处理的时候把像素值-128,模型先不变。看看结果如何。

      2024-07-09
      0