一、PTQ推荐使用流程

模型检查

解决的核心问题

对于一个新的 ONNX 模型，首先需要快速确认 J6 平台 BPU 对于模型结构、算子等的支持情况，打通 ONNX 浮点模型到板端 hbm 部署模型的全链路验证。

PTQ实战操作

参考命令：

快速性能评测：摸透模型性能上限

解决的核心问题

PTQ实战操作

参考命令：

fast-perf 模式的核心作用：

1. 自动将 BPU 可执行算子优先分配到 BPU（int8 精度），最大化性能。

2. 自动删除模型首尾冗余算子（如 Quantize/Dequantize、Cast、Transpose、Reshape 等），减少性能损耗。

3. 输出两个关键结果：板端最高性能数据、基础版config.yaml（默认生成路径在 .fast_perf 目录下，后续可直接修改使用）。

参考手册

yaml模板生成

解决的核心问题

生成一份基础的 yaml 配置模板，避免从零编写的繁琐工作，用于后续模型调优的精细配置。

PTQ实战操作

1. 复用模型检查或性能评测时生成的基础模板，再进行二次开发。两个环节默认 yaml 生成路径为

   1. 模型检查：.check/xxx_config.yaml

   2. 性能评测：.fast_perf/xxx_config.yaml

2. 使用 hb_config_generator 工具直接生成模型的基础配置，详细内容可见用户手册：hb_config_generator工具。

   1.   参考命令：

3. Yaml 中核心模块的常见修改示例参考如下：

精度上限摸底

解决的核心问题

将所有算子设置为 BPU 约束内的最高精度，摸底精度上限。若精度仍不满足，则需要考虑优化模型、调整校准数据、调整校准方法等。

精度上限推荐配置

J6E/M/B平台

J6P/H平台

混合精度调优

解决的核心问题

精度起始推荐配置

J6E/M平台

J6E/M 建议全局 int8+int16 混合量化，在精度存在误差时相应增加 int16 算子，例如：

• 敏感 head 相比于 backbone 通常需要配置更多的 int16 算子

• Attention 结构中 SoftMax * V 的 MatMul 通常需要对 SoftMax 输入配置 int16 高精度

J6P/H平台

• 敏感 head 相比于 backbone 通常需要配置更多的 int16 算子

• Attention 结构中 SoftMax * V 的 MatMul 通常需要对 SoftMax 输入配置 int16 高精度

J6B平台

J6B 的 Resize 算子对 int16 原生支持更友好，建议可以优先尝试 int16 高精度缓解量化误差。

量化敏感度分析

1. 问题定位：使用hmct-debugger工具，分析哪些算子用 int8 时精度损耗大（如 Softmax、MatMul），哪些算子用 int8 无明显精度影响（如 Conv、Add）。
2. 混合配置：在quant_config.json中，对精度敏感算子单独设置 int16，其余用 int8。示例配置如下：

3. 验证效果：执行hb_compile -c config.yaml --skip compile，测试混合精度模型的性能与精度，确保性能接近 int8 上限、精度接近 int16 上限。

hb_compile -c config.yaml --skip compile

参考手册

• hmct-debugger 使用指南：精度debug工具
• 混合精度配置示例：PTQ 精度调优实战

二、常见问题与PTQ解决方案

问题 1：模型量化精度损失太多

1. 优先尝试不同的校准方法（例如 max、kl、max_percentile 等）或自动搜索策略（例如 modelwise_search、layerwise_search），参考配置如下：

2. 尝试开启权重偏差校正（bias correction），参考配置如下：

3. 尝试开启 per_channel 量化优化，参考配置如下：

4. 尝试开启 asymmetric 非对称量化优化，参考配置如下：

5. 对敏感算子配置更高精度，例如：

   1. Sin、Cos 算子在 J6P/H 上建议全局使用 float32，其他平台可以参考社区文章【地平线J6工具链进阶教程】算子优化方案集锦 - 地平线开发者社区 的 2.2.3 章节进行去周期处理

   2. float16 触发数值溢出时工具不会自动截断，会导致输出出现 nan，此时需要使用 float32

   3. 将基于 hmct-debugger 工具分析出的敏感算子通过 node_config 配置为更高精度

问题 2：校准结果不稳定

1. 检查校准数据集的合理性，例如是否有全黑、全白、全部为固定值等异常数据，是否正确提供时序输入等

2. 增加校准样本数，例如某些复杂模型可能需要更多的校准数据

3. 启用多校准方法搜索

三、关键配置文件模板

Yaml示例

含校准搜索与混合精度的json模板

四、附录

核心参数总表

quant_config配置说明

编译模型时可以通过 quant_config 进行量化参数的配置，支持在 model_config、op_config、subgraph_config、node_config 四个层面配置模型量化参数：

• model_config：配置模型总体的量化参数，key 是自定义名称。

• op_config：配置某类算子的量化参数，key 是算子的类型。

• subgraph_config：配置某个子图的量化参数，key 是子图的名字。

• node_config：配置某个具体节点的量化参数，key 是节点的名字。

配置时四个层面存在优先级关系，配置粒度越小优先级越高，即优先级 model_config < op_config < subgraph_config < node_config，当某个节点同时被多个维度配置时，优先级高的维度最终生效。

激活参数配置

• calibration_type：校准方式支持max、kl、[max、kl]

• num_bin、max_num_bin：这些是kl量化的参数

• max_percentile：用于max校准百分位

• per_channel：是否开启per-channel量化

• asymmetric：是否开启非对称量化

注：如果配置了多个校准方法,会启动Modelwise搜索方法，从多个候选校准模型中找出最优的量化模型；如果配置了Layerwise参数，则启动Layerwise搜索方法，逐层搜索最优的量化参数。

权重校准参数配置

• num_sample：配置参与bias correction的样本数

• metric：偏差校正误差度量方法cosine-similarity、mse、mae、mre、sqnr以及chebyshev，默认值cosine-similarity。

校准参数搜索方法

• modelwise_search：在模型层面对量化参数进行搜索，该方法允许一次性配置多种校准方法，通过比较量化前后模型输出的量化损失 metric（可配置），找到一个量化损失最小的校准方法。

• layerwise_search：在节点层面对量化参数进行搜索，该方法会根据每个节点量化前后模型输出，计算量化损失metric（可配置），为该节点分配量化损失最小的校准方法。

注：多个校准方法时modelwise_search和layerwise_search可以都不配置，但默认会执行modelwise_search的逻辑(metric会采用默认的cosine-similarity)。

注：modelwise和layerwise同时配置的时候，layerwise优先级高。

参考手册