专栏算法工具链QAT改造浮点模型

QAT改造浮点模型

已解决
默认328322024-07-30
45
2

J5 J5_OE_1.1.74

改造浮点模型

在一个轨迹预测算法中的修改方式如下：

目前是在整个model的forward部分插入了这两个节点，可以正常训练。不清楚到底是要在整个模型的前后加入节点，还是在整个模型的forward部分加入（即图中所示），又或者是在某个模块中加入，比如local_encoder模块等等

算法工具链
技术深度解析征程5
评论2
0/1000
  • Huanghui
    Lv.5
    你好，量化和反量化节点是针对整个模型而言的，你的这个就OK：在整个模型forward部分的入口加入量化节点和出口部分加入反量化节点就可以了。
    2024-07-30
    0
    0
  • Huanghui
    Lv.5

    客户您好，鉴于长时间未收到你的答复，我们暂将该问题做关闭处理，如您仍有相同问题，请重新开帖子进行提问，祝您工作愉快！


    2024-08-08
    0
    0