专栏算法工具链J6的量化误差比J5大么

J6的量化误差比J5大么

已解决
默认971842024-11-28
89
8

相同的代码使用J6_22版本和J5_74版本进行了debug，累积误差曲线如下，算子的余弦相似度也低于J5，是J6的误差更大么

算法工具链
征程6
评论3
0/1000
  • DR_KAN
    Lv.4

    J5的校准数据不能直接给J6用。在J6上，校准数据要做mean/std的归一化，而J5不需要。可以检查下是不是这个原因

    2024-11-28
    1
    2
    • 默认97184回复DR_KAN:

      好的，我试一下

      2024-11-29
      0
    • kotei左文亮回复默认97184:

      还有没有问题呀？

      2024-12-02
      0
  • kotei左文亮
    Lv.3

    什么模型是PTQ吗？板端实际推理效果怎么样啊？

    2024-11-28
    0
    3
    • 默认97184回复kotei左文亮:

      PTQ模型，没在板端推理，只测试了静态效果

      2024-11-28
      0
    • kotei左文亮回复默认97184:

      余弦相似度是参考值，量化误差还是要以实际的精度为准

      2024-11-28
      0
    • 默认97184回复kotei左文亮:

      好的

      2024-11-29
      0
  • kotei左文亮
    Lv.3

    此问题就先关闭了，如有疑问可再发帖救助。

    2024-12-04
    0
    0