芯片型号:J3
天工开物开发包 OpenExplorer 版本:horizon_xj3_open_explorer_v2.6.4-py38_20240319
问题定位:模型量化编译hbm文件时报错
- 问题具体描述:浮点训练、校准和QAT训练都正常,但在最后做模型量化编译时出现问题,尝试了在convert_fx()前加载qat-last.pt并检查权重,问题没有得到解决,只有将前处理模块和GCM3模块都跳过量化才没有出现报错internal error: max input left shift 6,但仍旧存在问题,想知道问题出在哪里


