专栏算法工具链J6B 通道量化(per_channel)不生效

J6B 通道量化(per_channel)不生效

已解决
张元彪2025-11-12
71
12

使用J6B 进行ptq模型转换,配置如下,但生成的hbm文件输出头还是只有一个缩放因子且很小.

那里设置的不对吗?还是J6B不支持per_channel这个参数呢?

{

"model_config": {
"activation": {
"per_channel": true,
"calibration_type": "kl",
"num_bin": 1024,
"max_num_bin": 16384

},

"model_output_type": "int32"

}

}

算法工具链
征程6
评论2
0/1000
  • Vincent
    Lv.4

    你好，这个配置文件是否正确引用了呢？是否生效

    2025-11-14
    0
    7
    • 张元彪回复Vincent:

      打印的log是显示生效了,与J6M配置相同,J6M的则可以正常输出多通道量化.

      下面是J6B转换过程中的打印
      2025-11-14
      0
    • 张元彪回复Vincent:

      环境版本

      hbdk version: 4.4.3
      hmct version: 2.5.2
      hb_compile version: 3.4.3

      除了json中配置,在yaml中也进行了配置,但并没有起作用

      calibration_parameters:

      per_channel: true

      2025-11-14
      0
    • Vincent回复张元彪:

      意思是同样的配置 J6M正常J6B不行对吗？

      2025-11-14
      0
    • Huanghui回复张元彪:

      你好，这个问题解决了吗？

      2025-11-20
      0
    • 张元彪回复Huanghui:

      没有呢, 最后的输出还是只有一个量化因子,没有按通道数量来.

      不知道怎么看中间节点的量化因子数量

      2025-11-22
      0
    • 张元彪回复Huanghui:
      有更高效的解答问题的方式吗zuoyi_org.svg
      2025-11-22
      0
    • Huanghui回复张元彪:

      你好 ，你把 模型发过来我这边跑一下

      2025-11-24
      0
  • Huanghui
    Lv.5

    您好，由于长时间未收到您的回复，相信您已经解决该问题，欢迎再次提问！

    2025-11-28
    0
    3
    • 杨士杰回复Huanghui:

      你好，我和提问的人是同事，现在还是没有解决 int32的量化系数出来的是10的-8级别，这个肯定是不正常的，想知道有什么地方需要修改的吗

      2025-11-28
      0
    • Huanghui回复杨士杰:

      你重新开一个问题吧

      2025-11-28
      0
    • Huanghui回复杨士杰:

      另外 能否把配置以及校准集和模型发过来 ？

      2025-11-28
      0