专栏算法工具链j6e qat训练相关问题

j6e qat训练相关问题

满头小问号2026-05-08
72
1

天工开物开发包docker_open_explorer_ubuntu_22_j6_gpu_v3.0.27.tar.gz

进行qat进行车位检测训练过程遇见问题：

float车位检测误差0.1m --> calibration 检测误差0.13m --> qat （加载calibration模型运行9steps/900steps/4999steps）检测误差一直在0.19m左右.

为什么qat训练效果会比calibration差呢，而且感觉一直没有收敛的迹象，或者收敛非常慢。这是异常现象吗？

贴了一些config.帮忙解答一下，谢谢！

算法工具链
技术深度解析征程6
评论1
0/600
  • zyhang
    Lv.1
    现在比较怀疑的是：加载 calibration checkpoint 后 observer/scale 被冻结了，或者 Float2QAT 后 optimizer 没重新绑定新参数，导致模型实际上没有真正训练起来。另外 num_epochs=0 也比较可疑，需要确认 optimizer.step 是否真的执行。weight_decay=1e-3 对 QAT 来说也偏大，建议先降到 1e-4
    2026-05-11
    0
    0