专栏算法工具链QAT中，使用FloatFunctional等函数后，需要重训练吗

QAT中，使用FloatFunctional等函数后，需要重训练吗

已解决
皮卡丘2024-08-27
47
2

用户您好，请详细描述您所遇到的问题，详细的描述有助于帮助我们快速定位，解决问题~Thanks♪(･ω･)ﾉ

1. 芯片型号：J6

2. 天工开物开发包 OpenExplorer 版本：

3. 问题定位：模型转换

4. 问题具体描述：使用qat方案量化模型，使用from horizon_plugin_pytorch.nn.quantized import FloatFunctional，调用了FloatFunctional.cat，FloatFunctional.add，FloatFunctional.mal等函数后，模型需要重训练吗？pt仍然可以正常推理，hbir相关tensor掉点100%

算法工具链
评论1
0/1000
  • Pipeline
    Lv.2

    应该不会影响浮点模型的精度，calib和qat需要重新进行


    2024-08-27
    0
    1
    • 皮卡丘回复Pipeline:

      对，没有影响float模型，但直接导出的hbir模型，不可用。按我的理解，cat、add、mul是没有权重的，修改后直接导出就行了。

      这个是在地平线的参考算法bevformer基础上修改的，修改后直接使用export_hbir导出。float模型可以正常推理，export_hbir脚本导出的模型推理的精度和float模型差异巨大

      2024-08-27
      0