1.域控:J6-M
2.工具链版本:OE_v3.8.1
1.caliberation只是权重和激活进行量化,计算还是以fp32来进行的,板端的计算是定点性的吗?
2.所以caliberation后评测精度比较高,并不能等价导出板端模型hbm/quantized.bc 也是精度比较高的,因为板端还有计算的损失?
出现上述情况,要怎么提升板端模型精度呢
要怎么等价模拟板端的计算情况进行量化参数的调整呢;因为compile中的convert()是看不到的
2.工具链版本:OE_v3.8.1
1.caliberation只是权重和激活进行量化,计算还是以fp32来进行的,板端的计算是定点性的吗?
2.所以caliberation后评测精度比较高,并不能等价导出板端模型hbm/quantized.bc 也是精度比较高的,因为板端还有计算的损失?
出现上述情况,要怎么提升板端模型精度呢
要怎么等价模拟板端的计算情况进行量化参数的调整呢;因为compile中的convert()是看不到的