专栏算法工具链Trace分析和多模型优先级控制

Trace分析和多模型优先级控制

解答中
cbeibieq2026-04-09
46
2

Opinfer是模型在bpu 的推理时间嘛?测试优先级控制需要在推理时设置任务执行硬件为Hb_ucp_bpu_core_0嘛?

算法工具链
技术深度解析征程6
评论1
0/1000
  • 费小财
    Lv.5
    不完全是。 Opinfer 通常指的是 算子（Operator）级别的推理耗时，而不是整个模型在 BPU 上的总推理时间。
    是的，强烈建议指定具体的 BPU Core（如 HB_UCP_BPU_CORE_0），尤其是在测试抢占（Preemption）功能时
    2026-04-28
    0
    1
    • cbeibieq回复费小财:

      这个录制trace时怎么把bpu的信息录制上啊

      2026-04-28
      0