专栏算法工具链QAT量化(Calibration部分报错)

QAT量化(Calibration部分报错)

已解决
默认328322024-08-12
49
2

J5 J5_OE_1.1.74

一、我们根据算法工具链的示例量化我们的算法,在我们进行到calibration,在加入了calib_model之后,

我们的数据经过了calib_model之后都变成了Proxy(如下图),

1、请问这个Proxy是什么,

2、Proxy有什么作用,

3、是在我们的算法的网络里面都不能对数据进行变动了吗?

算法工具链
技术深度解析征程5
评论2
0/1000
  • momo(社区版)
    Lv.4
    Proxy是fx模式下用于生成计算图的,fx模式下构建一个假的输入Proxy,跑一遍forward,记录forward过程中调用的function和module,最终串连成计算图。详情请参考pytorch官方文档https://pytorch.org/docs/stable/fx.html

    2024-08-12
    1
    0
  • Pipeline
    Lv.2
    2024-08-12
    0
    0