专栏算法工具链激活校准节点的校准阈值异常

激活校准节点的校准阈值异常

已解决
默认593282024-11-25
53
4
版本：J6 v3.0.22
问题：
激活校准节点是个常量tensor，从INPUT看数值为0.000009999999747378752，为什么得到的校准阈值是118.06425476074219，应该是 0.000009999999747378752 ？

附件:
算法工具链
征程6
评论1
0/1000
  • Huanghui
    Lv.5

    收到

    2024-11-25
    0
    3
    • 默认59328回复Huanghui:

      有什么发现吗？

      2024-11-26
      0
    • 默认59328回复Huanghui:

      有反馈吗？

      2024-12-04
      0
    • Huanghui回复默认59328:

      该问题，你使用工具链debugger工具中的激活校准数据分布看一下就OK了。另外，根据这些参数是工具链内部量化机制的一部分，用户侧可不关心

      2025-01-06
      0