请问我们在文档中确认 J6 支持asymmetric对称量化,但是我们配置为true之后,为什么实际结果中没有zero point数值?可以帮忙解释一下这个问题吗?这个有没有相关文档可以帮助进一步了解。
你好,从硬件层面上是目前是不支持非对称的,软件上的非非对称是通过权重补偿的方式进行的,该部分是在工具链内部完成,用户层可不感知。另外该功能尽在PTQ时使用,是实验性质的, 使用时,用户可以通过对比最后结果的方式确定是否开启~