我模型的量化精度出现了负值,这是怎么回事,
是模型本身的问题,还是校准数据的问题啊
怎么解决?

我模型的量化精度出现了负值,这是怎么回事,
是模型本身的问题,还是校准数据的问题啊
怎么解决?



您好,请问您使用的OE版本是什么呢?方便提供一下模型和模型转换时的yaml配置文件,方便我们复现一下您的问题吗?

这下面是我的sh,yml,以及校准数据,在进行第二步时,我对校准数据制作的preprocess.py进行了修改,将PadResizeTransformer(target_size=(672, 672))改成了PadResizeTransformer(target_size=(416, 416)),因为我的模型是(1,3,416,416)的
链接:https://pan.baidu.com/s/1JoaGF_wrWUKszFpRn9ajAg?pwd=1234
提取码:1234
对了,进行问题复现的时候注意一下,我的模型通过第一步检查是安装了你给我的wheel文件才成功的,所以要安装那两个文件https://pan.horizon.ai/index.php/s/TR23PCziJBTSdEk
