专栏算法工具链QAT量化感知训练实例

QAT量化感知训练实例

已解决
默认328322024-04-20
108
7
J5_OE_1.1.68 请问有算法的实际部署流程吗？特别详细的流程，讲解了每一步的命令，就像PTQ方案一样的流程（如下图）。
算法工具链
征程5技术深度解析
评论7
0/1000
  • Huanghui
    Lv.5
    @默认32832 你好，关于本次被提到的问题：
    1。 数据集问题：很抱歉因为涉及版权等原因，我们无法提供数据集问题，但我们提供了数据集的下载地址供参考。
    2。 QAT详细的流程：QAT根据结构，目前包含了两个层次的内容：1）量化插件（horizon_plugin_pytorch），利用该工具可以在自己定义的network中加入我们定义的插件最终完成模型的量化编译，这部分的内容和步骤已经很详细了，可以参考QAT 快速入门。2）在horizon_plugin_pytorch之上为了快速定义和训练评估网络，我们进行的流程抽象，重新封装了一套训练框架HAT，HAT在框架中调用horizon_plugin_pytorch的功能通过配置的方式调用封装好的功能。这个部分的逻辑相对复杂和独立，但无论接口还是示例部分也都有说明，请参考Horizon Torch Samples，需要说明的是该部分内容相对复杂，要求学员有一定的模型训练和编程、调试能力。

    3。你所提到的问题是在使用hat中的数据集打包过程遇到的，该部分的内容是在构建HAT框架时有地平线定义和封装，但是你的版本似乎没有对齐，无发找到你所提到的文件/usr/local/lib/python3.8/dist-packages/hat/callbacks.py

    2024-05-01
    1
    0
  • kotei左文亮
    Lv.3

    您好，因为QAT涉及到具体的网络搭建和训练，相对于PTQ,难度较大。后续OE文档可能会给出详细的示例说明。如果您遇到具体问题可以提出来。

    2024-04-22
    0
    0
  • 默认32832
    Lv.2
    你好，请问使用 PyTorch训练好的浮点模型必须经过改造才能进行Calibration吗？
    2024-04-22
    0
    0
  • kotei左文亮
    Lv.3

    如果使用PyTorch训练好的浮点模型顺利转成onnx模型（opset10或者11）就可以直接走PTQ流程了。如果是QAT训练模型，就要做模型改造了。

    2024-04-25
    0
    0
  • 默认32832
    Lv.2

    你好，请问能提供一下Nuscenes数据集吗？我这边注册了账号，但是下载不了Map expansion(v1.3)这个文件。

    2024-04-25
    0
    0
  • 默认32832
    Lv.2
    在QAT量化感知训练过程中，运行数据打包的脚本，报错（如下图）请问这个“objectives"模块是地平线自己开发的模块吗？因为在PyPI上没有找到。
    2024-04-26
    0
    0
  • 默认32832
    Lv.2
    @Luomantiker你好，谢谢你的回答。
    1.数据集:是我本地的问题，目前已经找到其他下载路径，已解决。

    2.QAT详细的流程：谢谢你提供的路径，你提供的文档我提问之前已经看过了，但是QAT的流程没有PYQ示例那样详细的解释，也许是我没看懂，目前在地平线开发者社区学习具体部署流程。

    3.使用hat中的数据集打包过程遇到的问题已通过执行脚本完成环境安装。
    2024-05-07
    0
    0