专栏算法工具链QAT量化(生成计算图)

QAT量化(生成计算图)

已解决
默认328322024-08-20
49
2

J5 J5_OE_1.1.74

1、请问算法工具链的示例里面的torch.jit.trace函数可以替换成其他的函数吗?因为示例中这个函数只能接收一个tensor,而我们自己算法里面是一个batch,就算我们将batch里面的每一个tensor分离出来但是torch.jit.trace函数也会报错。

算法工具链
技术深度解析征程5
评论1
0/1000
  • Pipeline
    Lv.2

    这个看着像是模型forward那里的输入参数还没有修改,还是(self,batch)?

    2024-08-20
    0
    1
    • 默认32832回复Pipeline:
      forward那里的输入参数是

      这里的data是算法中utils.py定义的一个TemporalData的类,数据处理完成以后的所有数据都被封装成了一个data,此后再输入模型被调用

      2024-08-20
      0