专栏算法工具链J5板端模型推理精度与开发机int8模型推理精度不一致

J5板端模型推理精度与开发机int8模型推理精度不一致

chengang2023-08-23
41
2
1.芯片型号:J5
2.天工开物开发包OpenExplorer版本:J5_OE_1.1.57
3.问题定位:板端推理与开发机推理结果不一致
4.问题具体描述
你好,我们训练了一个雷达点云与图像融合的BEV检测模型,仿真上板精度与模型quantize精度是一致的,但是将模型编译后在J5板端推理,精度出现了偏差。

其中几个类别的检测精度和开发机端quantize精度是接近的,但是有一个类别检测精度,板端比quantize精度掉了8个点左右,这有什么好查找的方法吗?

我看参考算法提供了centerpoint算法,不知道你们有没有测试过,J5板端精度与开发机端int8精度是不是完全一致?

算法工具链
评论1
0/1000
  • 颜值即正义
    Lv.2

    您好,先用hbdk-model-verifier工具测一下hbm和pt模型的一致性吧。这个工具在OE的docker环境下可以在命令行直接使用,可以用-h查看使用方法。

    2023-08-23
    0
    1
    • chengang回复颜值即正义:

      好的,我试试。

      2023-08-23
      0