专栏算法工具链J6 C++ 推理demo与hrt_model_exec infer 不一致

J6 C++ 推理demo与hrt_model_exec infer 不一致

已解决
永远期待2025-02-10
130
17

使用 hrt_model_exec infer --model_file ./model.hbm --input_file ./features.bin,./coors.bin --enable_dump=True --dump_format=txt --dump_path=./out/ 工具推理与 C++ Demo推理结果不一致。附C++代码及输入和模型

附件:
算法工具链
征程6
评论4
0/1000
  • 永远期待
    Lv.1

    C++工程运行命令./test --model_file=../model.hbm --feature_file=../features.bin --coors_file=../coors.bin

    2025-02-10
    0
    0
  • Huanghui
    Lv.5

    你好 ,c++ demo推理结果是怎样的?

    2025-02-10
    0
    2
    • 永远期待回复Huanghui:

      请看附件,heatmap是C++demo的推理,另外一份是命令行工具推理,输入完全一致

      2025-02-10
      0
    • 永远期待回复Huanghui:

      main是源码文件

      2025-02-10
      0
  • Huanghui
    Lv.5

    您好 您给的这个项目 在板端build过不去

    2025-02-10
    0
    3
    • 永远期待回复Huanghui:

      这个是PC端的demo

      2025-02-10
      0
    • 永远期待回复Huanghui:
      2025-02-10
      0
    • Huanghui回复永远期待:

      好的我再试下

      2025-02-10
      0
  • Huanghui
    Lv.5

    您确认下demo推理和命令行推理所用的模型是否一致,命令行传入的是hbm模型

    2025-02-10
    0
    8
    • 永远期待回复Huanghui:
      demo运行命令如下,输入已通过微信给您发过去了,模型是完全一致的
      ./test --model_file=../model.hbm --feature_file=../features.bin --coors_file=../coors.bin
      2025-02-10
      1
    • 永远期待回复Huanghui:
      您好,完整工程及模型和输入可从链接下载
      链接:https://pan.baidu.com/s/1yGxCKUwBdvsBwWZi6rdEtg 提取码:rryq
      2025-02-10
      0
    • Huanghui回复永远期待:

      你好,我们讨论了下,就是你可以将main文件里面输入到模型之前的数据load下载,将load下来的数据用hrt_model_exec在推理以下,如果推理结果仍然不同,就说明是数据前处理不一致,进而影响模型推理结果。

      2025-02-10
      0
    • Huanghui回复Huanghui:

      很有可能是数据前处理不同,因为模型都一样,相同模型输入进去,结果应该相同才对,若不一样就说明可能是代码内部数据前处理不同

      2025-02-10
      0
    • 永远期待回复Huanghui:

      好的,我试一下

      2025-02-10
      0
    • 永远期待回复Huanghui:

      已找到问题memcpy(c_data, coors, c_length / sizeof(int32_t));这句会把coors 里面的-1 变成 0

      2025-02-10
      0
    • 永远期待回复Huanghui:

      是数据类型的问题,把coors的类型从 int32_t 改为 int16_t就正确了

      2025-02-10
      0
    • Huanghui回复永远期待:

      好的问题解决了就好

      2025-02-10
      0