专栏算法工具链J6转hbm文件时,yaml文件如何配置动态batch

J6转hbm文件时,yaml文件如何配置动态batch

已解决
默认875202025-10-10
59
3
  1. J6M

  2. OE包 3.031

  3. 问题:模型转换

  4. hb_compile工具转hbm文件时,是否支持配置动态abtch?如果支持能否给个yaml的例子

算法工具链
征程6
评论3
0/1000
  • Vincent
    Lv.4

    你好,你的onnx模型的输入batch大小是怎么样的,你这里就需要准备同样维度的数据。举个例子就比如,你的onnx模型输入是8*3*224*224,那你在准备校准集时候直接把八张图像cat在一起作为一个sample输入,转换成hbm模型之后,推理数据也需要八张八张的送进去推理。如果你的onnx是1*3*224*224,而yaml里面你的batch设置的是8,那么校准集就不要cat在一起就单独准备1*3*224*224(这里不需要在unsqueeze了直接就单张图像J就ok,内部会unsqueeze成1*3*224*224),但是推理仍然要八张八张准备(8*3*224*224)。

    2025-10-10
    0
    0
  • Jade-self
    Lv.5

    J6不支持动态batch

    2025-10-10
    0
    0
  • 费小财
    Lv.5

    应该是不支持的

    2025-10-11
    0
    0