背景:PTQ的精度debug
操作:在做算子敏感度分析时,绘制分布曲线“”dbg.plot_distribution“” ,数值出现 “-inf” ,导致绘制失败。
请问是什么原因导致的,该如何解决?
你好,这个是出现无穷大值导致无法绘制,建议检查一下输出,查看无穷大数值个数,如果仅有一个或者几个异常值且不影响最终的量化结果,建议将其置换成均值或者中值
是不是算子太多了,导致画不下?敏感度分析主要看那个算子排序就可以了,那个是最重要的
这个仅仅是个统计数值的一个工具,即使不用这个工具,matplotlab一样能绘制