QAT的量化/定点模型转为onnx模型

已解决

在做梦了2023-07-06

1.天工开物开发包OpenExplorer版本：J5_OE_1.1.40

2.问题定位：

3.问题具体描述：

1. 您好，我在使用标准Swin_T模型进行QAT时，参考了官方文档中4.2.2的QAT快速上手部分，在完成4.2.2.7部分后，我看到了社区的https://developer.horizon.ai/forumDetail/98129538025877648这篇文章，在末尾部分说使用export_to_onnx+hb_mapper makertbin 工具转为bin模型，但我发现已经没有export_to_onnx这个文件了，请问一下该如何转为对应的onnx模型？

2. 4.2.2.6中量化训练结束后的模型，是否也可以转为对应的onnx模型？我使用torch.onnx.export之后，因为模型里面似乎有地平线的自定义算子，导致转换失败了。

算法工具链

征程5

0/1000

颜值即正义
Lv.2
你好，1. export_to_onnx为plugin中的接口，接口导入路径为horizon_plugin_pytorch.utils.onnx_helper.export_to_onnx,使用方式请参考 https://developer.horizon.ai/api/v1/fileData/horizon_j5_open_explorer_cn_doc/plugin/source/user_guide/heterogeneous.html?highlight=export_to_onnx；
2. qat训练后的模型是可以转出onnx模型的，然后走PTQ的“load”校准方式，不过请注意需要使用fx模式对模型进行量化训练；如果模型中包含地平线自定义的算子，可能会不支持走PTQ，建议使用QAT进行模型的量化和编译。
另外，我们的OE工具链和文档目前已经迭代到1.1.57版本了，建议您进行更新：
最新OE开发包获取方式：https://developer.horizon.ai/forumDetail/118363912788935318
文档在线链接：https://developer.horizon.ai/api/v1/fileData/horizon_j5_open_explorer_cn_doc/index.html

2023-07-06
0
1
- 在做梦了回复颜值即正义:
  好的，谢谢，已经成功导出onnx模型了?。
  2023-07-07
  0
  回复
颜值即正义
Lv.2
您好，地平线工具链在持续迭代优化，为了给您提供更好的服务，希望您能抽出3分钟左右的时间，将您在使用工具链期间的感受和建议告诉我们，您的宝贵意见对我们很重要，非常感谢！
问卷链接：地平线算法工具链使用满意度反馈
2023-07-10
0
0