专栏算法工具链同一个task_handle下的任务是否会保证执行顺序

同一个task_handle下的任务是否会保证执行顺序

阿白-西2026-05-13
46
3

J6M,OE3.8.1

问题:

我有多个模型需要串联执行,后一个模型的输入是前一个模型的输出,例如A->B->C,使用同一个task_handle,模型的实际调用顺序是并发的还是严格串行的,这样使用是否正确

算法工具链
技术深度解析征程6
评论1
0/600
  • YCJ
    Lv.4
    不要为了串联 A->B->C 而复用同一个 task_handle 并一次性提交。
    应该采用“提交 -> 等待完成 -> 释放 -> 提交下一个”的模式。
    2026-05-14
    0
    2
    • 阿白-西回复YCJ:

      多个小模型串联,如果每次都等待,会极大增加latency,有没有合适的方法解决这个问题

      2026-05-14
      0
    • YCJ回复阿白-西:

      不要在单线程里做串联,可以在多线程里走流水

      2026-05-14
      0