专栏算法工具链指定int16无效

指定int16无效

已解决
yy12342024-09-06
63
1

1. 芯片型号：J5

2. 天工开物开发包 OpenExplorer 版本： J5_OE_1.1.77

3. 问题定位：模型转换

4. 问题具体描述：qat量化时，指定所有节点int16量化，但工具链提示部分节点例如add不支持int16输入，查算子支持清单add是支持int16，请问是什么原因？

算法工具链
征程5
评论1
0/1000
  • DR_KAN
    Lv.4

    有可能是因为add融合进了别的算子里，然后这个融合后的算子不支持int16，可尝试的解决方法如下：

    1. cd /usr/local/lib/python3.10/dist-packages/horizon_plugin_pytorch/quantization/fx 

    2. vi fusion_patterns.py

    3. 将代码最后的for relu in relus:后面的和add有关的register_xxx全注释掉


    2024-09-06
    0
    0