QAT的compile流程中为什么要去掉模型的量化反量化节点？

量化反量化过程是在CPU进行的，为了提高每次遍历数据的利用率，尽量少遍历数据，移除后你可以把量化反量化过程融入到业务处理当中。

理解方面可以参考https://developer.horizon.auto/blog/10424

量化反量化做的事情和手动量化反量化做的事情是一样的， 所以精度方面是一样的，主要考虑的性能：如果 量化反量化在模型中，模型执行需要遍历一次数据，而且是串行的，并且在 量化反量化 期间，对于用户业务线程来讲，并没有释放BPU的资源。如果把 量化反量化 写到模型外部来，一方面对于用户业务线程来讲，一次推理就结束了，可以进行下一次的推理，增大了BPU的利用率，另一方面，对output进行业务处理迟早是要遍历数据的，在遍历的时候顺带着做量化反量化就可以节省一次遍历数据带来的性能损耗，额外的后处理线程和推理线程也可以跑到不同的线程中，利用多线程增强并行能力。