专栏算法工具链QAT 量化函数

QAT 量化函数

已解决
Lmh2024-07-30
49
3

J5 J5_OE_1.1.74

在calibration和QAT量化感知训练过程中都有以下这一相似操作,如果引用了自己的模型,这一部分该如何修改呢

算法工具链
技术深度解析征程5
评论3
0/1000
  • kotei左文亮
    Lv.3

    那就把自己的模型,按照要求递归地处理所有层级。

    2024-07-30
    0
    0
  • Huanghui
    Lv.5

    对这部分的代码进行一下说明吧,有了下面的说明,你应该就知道了:

    1. copy.deepcopy(float_model): prepare_qat_fx内部对于模型参数的使用类似于C++中的指针引用,对模型是就地修改的,为了不影响引用的float_model,对模型进行了深度拷贝。

    2. 下面的部分是量化配置信息,如下为注释部分:


    自己的模型,如果输出部分是conv或linear, 可以按照上面这个这设置,如果不是,使用常规的 {"": get_default_qat_qconfig()}就OK

    2024-07-30
    0
    0
  • kotei左文亮
    Lv.3

    鉴于您长时间未回复,此问题就先关闭了,如还有问题,可再发帖求助。

    2024-08-07
    0
    0