专栏算法工具链yolov7模型PTQ转换，模型板端部署异常

yolov7模型PTQ转换，模型板端部署异常

已解决
默认317442024-06-27
118
11

1. 芯片型号：J5

2. 问题定位：板端部署

3. 问题具体描述：

yolov7模型通过PTQ转成.bin模型后，上板端部署运行，运行结果显示：检测框无论是否正确框中目标，分值普遍偏高，接近1。请问是模型转换后精度丢失造成的吗？

已进行过如下校验：

1、在float_original.onnx 和 quantized.onnx上的推理结果不正确且分值偏低。
2、通过hb_verifier 验证过quantized.onnx和bin模型的一致性
附件:
算法工具链
评论1
0/1000
  • kotei左文亮
    Lv.3

    有没有模型转化时候的log文件啊？

    2024-06-27
    0
    10
    • 默认31744回复kotei左文亮:

      放在了帖子附件上

      2024-06-27
      0
    • kotei左文亮回复默认31744:
      是的，模型转化就有问题，算子精度有点低了，如下。
      2024-06-28
      0
    • 默认31744回复kotei左文亮:

      这应该怎么解决呢？


      2024-06-28
      0
    • kotei左文亮回复默认31744:

      参考OE包文档里面的《高效模型设计指导》章节，可以试着修改一下网络结构。

      2024-07-01
      0
    • 默认31744回复kotei左文亮:

      请问如何查看板端镜像版本？

      2024-07-01
      0
    • kotei左文亮回复默认31744:
      首先通过串口或IP登录开发板，登录后输入以下命令进行查看 cat /etc/version 
      2024-07-02
      0
    • 默认31744回复kotei左文亮:

      在进行PTQ模型转换部署过程中，开发机的开发包和开发板的镜像，二者版本之间有版本对应关系吗？

      2024-07-02
      0
    • kotei左文亮回复默认31744:

      开发板的镜像指的是开发板的底软系统吗？

      2024-07-04
      0
    • 默认31744回复kotei左文亮:
      就是通过cat /etc/version看到的系统
      2024-07-04
      0
    • kotei左文亮回复默认31744:

      系统底软版本最好与工具链的版本对应的时间相差不要太大；关于底软方面的问题，可以在底软那边的板块发帖问一下。

      2024-07-05
      0