专栏算法工具链BPU使用率始终为0

BPU使用率始终为0

已解决
默认383362025-03-03
84
10

请问hb_DNNInfer在执行推理的时候是默认在BPU上运行吗？我将工具链5.1.3节的示例代码改为循环运行infer，通过hrut_somstatus查看BPU使用率一直为0，请问这是什么原因？

附件:
算法工具链
征程5
评论3
0/1000
  • Huanghui
    Lv.5

    你打印下你的hbm模型信息，看下节点数据类型是否是INT8

    2025-03-03
    0
    4
    • 默认38336回复Huanghui:

      只可以是.hbm么？我现在用的是PTQ量化后的bin格式模型文件

      2025-03-03
      0
    • Huanghui回复默认38336:

      可以是bin的 j5里面的是bin，j6是hbm

      2025-03-04
      0
    • Huanghui回复默认38336:

      ouput里面应该会同步生成一个prototxt文件 你可以用netron打开看下

      2025-03-04
      0
    • 默认38336回复Huanghui:

      ptq量化后输出只有onnx和bin格式的吧

      2025-03-04
      0
  • DR_KAN
    Lv.4

    hrut_bpuprofile -b 2 -r 0 用这个命令再试下呢

    2025-03-04
    0
    1
    • 默认38336回复DR_KAN:

      这个也一样

      2025-03-04
      0
  • DR_KAN
    Lv.4
    2025-03-04
    0
    2
    • 默认38336回复DR_KAN:

      好的我尝试一下。再问您一下，J5有什么方法可以指定模型运行在哪一个bpu上嘛

      2025-03-04
      0
    • DR_KAN回复默认38336:

      有的，可以看下hrt_model_exec工具的介绍，有个core_id设置，你自己写代码的话可以看下BPU SDK API的ctrl param那块的介绍，也有个配置参数

      2025-03-04
      0