专栏算法工具链浮点模型calibration

浮点模型calibration

解答中
爱学习的班马2026-01-27
56
2

1. 芯片型号:J6M

2. 天工开物开发包 OpenExplorer 版本:v3.0.31

3. 问题定位:模型转换

4. 问题具体描述:
当训练完浮点模型后,通过以下配置文件进行calibration的训练,出现以下提醒附件截图中的提醒。
其中配置文件在Calibration.zip文件夹下,是我在进行calibration过程中少了什么内容吗?或者说以下三个参数什么意思?其中的layer层是怎么确定的?

int16_max_point_muls

int16_max_reciprocal_op

int16_point_cat

附件:
算法工具链
征程6
评论2
0/1000
  • YCJ
    Lv.4

    你好,前6行的warning是说有些模块名称复用了,calibration遇到模块名称复用的情况可以跑通,但是统计出来的scale可能会不准确,影响精度,建议把复用名称的模块单独取名。后面的 warning 是说你在配置文件中配置的一些层,工具链在模型中没找到,你需要check一下模型里有没有这些层。

    2026-01-28
    1
    0
  • YCJ
    Lv.4

    你贴出来这三个参数是三个list,里面有若干个字符串,每个字符串对应相应算子的模块名。也是为了配置相应的模块名,工具链会根据模块名去找相应层。

    2026-01-28
    1
    0