专栏算法工具链int,hbm结果不一致

int,hbm结果不一致

已解决
贞观2024-08-15
66
9

  1. docker_open_explorer_ubuntu_20_j5_gpu_v1.1.62.tar.gz 训练的 float，calibration，qat，int_infer

  2. horizon_j5_open_explorer_v1.1.62-py38_20230802.tar.gz 进行的hbm推理，

hbm推理的结果能正常推理，但是有些图片推理的效果和int_infer差异特别大

算法工具链
+1
评论5
0/1000
  • Pipeline
    Lv.2

    需要检查float，calibration，qat，int_infer个节点精度是否正常，可以使用板端对齐工具检查一下模型。

    2024-08-15
    0
    4
    • 贞观回复Pipeline:

      float，calibration，qat，int_infer 精度都和float差不多，

      2024-08-15
      0
    • 贞观回复Pipeline:

      板端对齐工具 指的是？

      2024-08-15
      0
    • Pipeline回复贞观:

      是的，可以参考下面的回复进行一致性验证。

      2024-08-15
      0
    • 贞观回复贞观:
      2024-08-15
      0
  • DR_KAN
    Lv.4
    2024-08-15
    1
    0
  • DR_KAN
    Lv.4

    一般来说，int_infer正常，hbm不正常，可能有三种情况

    1、没给模型插入预处理节点（center_yuv to rgb等）

    2、没有给hbm的输出做反量化

    3、hbm输出的valid shape和aligned shape不一致，没有跳过无效的padding区域

    2024-08-15
    0
    0
  • HDR
    Lv.2

    欢迎您加入地平线社区论坛飞书群，及时获取问题贴回帖提醒~

    2024-08-16
    0
    0
  • Huanghui
    Lv.5

    客户您好，鉴于长时间未收到你的答复，我们暂将该问题做关闭处理，如您仍有相同问题，请在新的帖子中重新发起提问，祝您工作愉快！

    2024-09-04
    0
    0