专栏算法工具链QAT量化模型输入

QAT量化模型输入

已解决
默认328322024-08-23
47
1

J5 J5_OE_1.1.74

请问我们的模型在模型编译前所需要的模型输入和模型编译后所需要的模型输入是相同的吗?(比如我们的模型在模型检查前输入模型的是一个batch,但是我们在模型检查的时候将batch拆成了一个一个的tensor传入模型,那么我们在模型编译后生成的hbm文件所需要的输入也是一个一个的tensor吗?)

算法工具链
技术深度解析征程5
评论1
0/1000
  • 遥看瀑布挂前川
    Lv.2

    编译时传入的输入是什么样,hbm就是什么样,只和compile时的example_inputs有关

    2024-08-23
    0
    0