您好,我尝试用ptq量化方式量化pointpillars模型。
原始浮点模型是用aibenchmark里pointpillars示例的pth文件参考这篇 地平线J6参考算法如何导出浮点的onnx? - 地平线开发者社区 转换得到的;
校准数据是用aibenchmark里evalpreprocess里的pointpillars前处理脚本处理后得到的;
我量化后得到的bin模型,利用aibenchmark里QAT/pointpillars的latency.sh输出可视化结果以及accuracy.sh评估精度结果都异常。两个sh文件对应的workflow.json我仅将模型由hbm模型换为bin模型的路径,其余未更改。
ptq量化的方式尝试了kl和default,均不行,请问有哪里出现问题?而且我用default的方式,模型的算子余弦相似度都是1,如附图所示,这是为什么?附件还有我ptq的yaml文件。谢谢!

