专栏算法工具链QAT时转换hbm文件时出现问题

QAT时转换hbm文件时出现问题

堇孑4小时前
4
0
  1. 芯片型号:J3

  2. 天工开物开发包 OpenExplorer 版本:horizon_xj3_open_explorer_v2.6.4-py38_20240319

  3. 问题定位:模型量化编译hbm文件时报错

  4. 问题具体描述:浮点训练、校准和QAT训练都正常,但在最后做模型量化编译时出现问题,尝试了在convert_fx()前加载qat-last.pt并检查权重,问题没有得到解决,只有将前处理模块和GCM3模块都跳过量化才没有出现报错internal error: max input left shift 6,但仍旧存在问题,想知道问题出在哪里
附件:
算法工具链
技术深度解析征程3
评论0
0/600