专栏算法工具链FloatFunctional 使用

FloatFunctional 使用

已解决
默认232322025-03-06
53
7

我觉得下面这个变换过程在calib /qat 如果使用 FloatFunctional 收集浮点状态，需要改的地方很多，另外部分计算操作没有 FloatFunctional 接口。 例如 norm power等 ， 请问如何处理下面这段代码，    或者下面这段代码就不进行量化  ？

 

算法工具链
征程6
评论1
0/1000
  • 默认23232
    Lv.2
    @huanghui zuoyi_org.svg
    2025-03-06
    0
    6
    • Huanghui回复默认23232:

      我的理解是像norm，power，atan这类算子，如果量化的话，误差相对来说比较大。

      2025-03-06
      0
    • Huanghui:

      像非线性函数 量化 之后误差较大

      2025-03-06
      0
    • Huanghui:

      你可以不量化试试，不去处理它，

      2025-03-06
      0
    • Huanghui回复默认23232:

      我个人的一些看法哈

      2025-03-06
      0
    • 默认23232回复Huanghui:

      多谢答复， 我将self.point_quant_stub() 移动到该代码块末尾， calib metric 指标提升45个点

      2025-03-06
      0
    • Huanghui回复默认23232:

      好的解决了就好

      2025-03-06
      0