专栏算法工具链QAT 后支不支持导出hbm模型

QAT 后支不支持导出hbm模型

已解决
渚2025-07-22
55
7

在torch侧进行qat操作，会产生quantized 和dequantized 算子，可以导出hbm 模型么，再进行工具链的PTQ。

地平线工具链的qat 和模型训练的环境差异大，所以想着可不可以在torch侧进行qat，然后再用工具链进行一个PTQ的导出hbm模型

算法工具链
征程6
评论3
0/1000
  • Huanghui
    Lv.5

    你好，这样怕不是不行吧，QAT跟PTQ原理不同，二者模型里面的伪量化节点也不同。不是同一种东西。

    2025-07-22
    0
    4
    • 渚回复Huanghui:

      如果要进行qat ,只能用咱们j6工具链中的qat进行么，从头训练一份 QAT 模型。

      2025-07-22
      0
    • Huanghui回复渚:

      是的，用地平线提供的工具，它肯定只能使用地平线提供的QAT方法训练呀。

      2025-07-22
      0
    • 渚回复Huanghui:
      好滴，谢谢。xianhua_org.svg
      2025-07-22
      0
    • Huanghui回复渚:

      不客气~后续有问题欢迎来社区提问。

      2025-07-22
      0
  • 遥看瀑布挂前川
    Lv.2

    J6不支持这个链路。

    2025-07-22
    0
    0
  • 费小财
    Lv.5

    嗯，不可以这么玩的

    2025-07-23
    0
    0