专栏算法工具链hbm C++推理

hbm C++推理

已解决
头角峥嵘2024-09-14
133
7

1. 芯片型号：J6e

2. 天工开物开发包 OpenExplorer 版本：例如 J6_OE_V3.0.17  等

3. 问题定位：模型推理

4. 问题具体描述：hbm C++推理，卡在hbUCPWaitTaskDone
算法工具链
评论1
0/1000
  • DR_KAN
    Lv.4

    先试一下这个模型用hrt_model_exec能不能推理起来，用perf功能看下

    2024-09-18
    0
    6
    • 头角峥嵘回复DR_KAN:

      hrt_model_exec 和 C++ 推理的demo调的用的函数是一样的吧，感觉适配hrt_model_exec的输入意义不大

      2024-09-18
      0
    • DR_KAN回复头角峥嵘:

      用hrt_model_exec的意义在于，排查是否是你的工程代码的问题，还是模型编译的问题

      2024-09-18
      0
    • 头角峥嵘回复DR_KAN:
      hrt_model_exec perf \

      --model_file="/media/gpu/data/out_flashocc/tmp_models/flashocc_henet_lss_occ3d_nuscenes/compile/model.hbm" \

      --input_stride="491520,960,1,1;245760,960,2,1;491520,960,1,1;245760,960,2,1;491520,960,1,1;245760,960,2,1;491520,960,1,1;245760,960,2,1;491520,960,1,1;245760,960,2,1;491520,960,1,1;245760,960,2,1;65536,512,4,2;65536,512,4,2"

      flashocc 的hbm，执行后与 C++ 推理的demo报错结果一样

      2024-09-18
      0
    • DR_KAN回复头角峥嵘:

      这个是在板端跑的，还是x86模拟环境中跑的？

      2024-09-18
      0
    • 头角峥嵘回复DR_KAN:

      x86

      2024-09-18
      0
    • DR_KAN回复头角峥嵘:

      那说明这根本就不是个报错，只是告诉你用不了这个“est_time”的功能而已，多等等就能推理完了

      2024-09-18
      0