专栏算法工具链多模型批量推理 input tensor 准备问题

多模型批量推理 input tensor 准备问题

已解决
默认251842025-09-02
38
2

 

参考这个链接的教程在 J5 上部署两个模型，在一个 packed_dnn_handle 中推理。请问对于两个模型，即便是输入同一张图片也需要准备两份不同的 input tensor 吗？？我试了下只准备一份 input tensor 的这个版本，会出现推理报错：

[E][DNN][mem_pool.h:66](57908618) no more element can be alloc

[E][DNN][hb_dnn.cpp:349](57908618) task number exceed limit

hbDNNInfer failed, error code:-6000009


单独两个小模型各自运行都是没问题的。所以怀疑是不是一定得把同一个图片准备两份 input tensor 分别给两个模型？
算法工具链
征程5
评论2
0/1000
  • Jade-self
    Lv.5
    从错误码看是 HB_DNN_TASK_NUM_EXCEED_LIMIT = -6000009 // 任务数量超限制 ，但只有两个任务应该不会超出限制的。
    1. 部署两个模型，准备两份输入，就不会报这个错误了吗？是的话，可以尝试用两份虚拟地址的方式来进行
    2. 可以根据https://developer.horizon.auto/forum/11338对应OE包中代码再check下
    2025-09-02
    1
    0
  • Huanghui
    Lv.5

    您好，因长时间未收到您的回复，相信您已经解决此问题 ，欢迎下次提问。

    2025-09-16
    0
    0