专栏算法工具链模型量化精度问题

模型量化精度问题

秋野.2小时前
3
1
  1. 芯片型号:J6M

  2. openexplorer版本:horizon j6_open_explorer_v3.7.0

  3. 问题定位:calibration精度下降

  4. 问题描述:

参考配置:samples/ai_toolchain/horizon_model_train_sample/scripts/configs/bev/bev_sparse_henet_tinym_nuscenes.py
1. 使用参考算法+业务数据训练,校准。指标在可接受范围内
2. 保持之前的配置,加大数据量训练,出现训练崩溃。关掉AMP后float模型训练正常。但是校准阶段精度下降明显,mAP 下降15%左右
算法工具链
技术深度解析征程6
评论1
0/1000
  • HuangHui
    Lv.5

    收到,需要先内部分析一下看看,稍后回复~

    1小时前
    0
    0