专栏算法工具链bc模型和hbm模型推理精度差异大

bc模型和hbm模型推理精度差异大

已解决
皮卡丘2024-09-27
219
18

用户您好，请详细描述您所遇到的问题，详细的描述有助于帮助我们快速定位，解决问题~Thanks♪(･ω･)ﾉ

1. 芯片型号：J6

2. 天工开物开发包 OpenExplorer 版本：v3.0.17

3. 问题定位：板端部署

4. 问题具体描述：

使用脚本推理bc模型和hbm模型，bc模型和hbm模型输出差异大。

可以确定不是前处理和后处理影响的。模型输入为featuremap，输入来自同一个npy文件。

model_info信息如下;

附件:
算法工具链
征程6技术深度解析
评论3
0/1000
  • J6标定问题
    Lv.1
    你将同一个npy文件作为输入到bc模型和hbm模型来验证结果是不是一样，这种验证方法是错误的，其中bc模型需要自己手动做减均值和方差，hbm模型是在模型做了减均值和方差
    2024-09-27
    0
    13
    • 皮卡丘回复J6标定问题:

      npy中已经做了预处理操作，模型采用featuremap，no_preprocess方式进行量化，不应该有预处理节点

      2024-09-29
      0
    • 皮卡丘回复J6标定问题:

      bc模型推理的结果是正确的

      2024-09-29
      0
    • J6标定问题回复皮卡丘:
      那你把相关的代码提供一下吗，会不会是你bc模型python后处理代码有问题
      2024-09-29
      0
    • 皮卡丘回复J6标定问题:

      没有后处理代码，bc输出后直接保存npy，和hbm输出反量化保存的npy做对比

      2024-09-29
      0
    • 皮卡丘回复J6标定问题:
      2024-09-29
      0
    • 皮卡丘回复J6标定问题:
      2024-09-29
      0
    • 皮卡丘回复J6标定问题:

      hbm推理代码和反量化代码如附件

      2024-09-29
      0
    • J6标定问题回复皮卡丘:

      能否把你转换模型yaml文件和校准数据集发一下，你的原始模型推理有没有减均值和除方差

      2024-09-29
      0
    • 皮卡丘回复J6标定问题:

      yaml文件和数据集见附件。校准数据集目前仅一个npy，也是bc和hbm的测试输入

      2024-09-29
      0
    • J6标定问题回复皮卡丘:

      一般转换模型需要准备100个样本，一个样本很难转换的好

      2024-09-29
      0
    • 皮卡丘回复J6标定问题:

      目前验证，我板端的ucp相关推理库有异常。所以bc推理没问题，hbm推理有问题。我使用hrt_model_exec infer推理和自己写的部署代码推理结果是一致的。

      2024-09-29
      0
    • 皮卡丘回复J6标定问题:

      ucp相关库，如何获取更新以及更新

      2024-09-29
      0
    • J6标定问题回复皮卡丘:

      在/open_explorer/samples/ucp_tutorial/deps_aarch64/ucp路径下，OE版本更新了，就在该目录下获取最新的

      2024-09-29
      0
  • momo（社区版）
    Lv.4

    hello,我这边验证后bc和hbm模型的推理结果是一致的，麻烦检查一下部署代码。bc和hbm python推理代码：

    2024-09-29
    0
    2
    • 皮卡丘回复momo（社区版）:

      目前验证，我板端的ucp相关推理库有异常。所以bc推理没问题，hbm推理有问题。我使用hrt_model_exec infer推理和自己写的部署代码推理结果是一致的。

      2024-09-29
      0
    • momo（社区版）回复皮卡丘:

      经定位，此问题为ucp的问题，麻烦后面联系地平线人员释放新版本工具链

      2024-09-30
      0
  • J6标定问题
    Lv.1

    问题已收到，我们先分析一下

    2024-09-27
    0
    0