专栏算法工具链提升quantized.bc模型精度

提升quantized.bc模型精度

2026-06-08
29
0
1.域控:J6-M
2.工具链版本:OE_v3.8.1

1.caliberation只是权重和激活进行量化,计算还是以fp32来进行的,板端的计算是定点性的吗?
2.所以caliberation后评测精度比较高,并不能等价导出板端模型hbm/quantized.bc 也是精度比较高的,因为板端还有计算的损失?

出现上述情况,要怎么提升板端模型精度呢
要怎么等价模拟板端的计算情况进行量化参数的调整呢;因为compile中的convert()是看不到的
算法工具链
技术深度解析征程6
评论0
0/600