专栏算法工具链混合精度量化编译模型时,log输出警告:Conv节点的某一个输入不支持int16数据类型

混合精度量化编译模型时,log输出警告:Conv节点的某一个输入不支持int16数据类型

已解决
默认478722025-07-30
30
1

工具链版本为horizon_j5_open_explorer_v1.1.68-py38

想要让下图激活校准节点以int16量化:

尝试更改量化编译配置文件.yml的node_info来指定其前面的Conv与relu节点int16输入输出:

 

 

两个对应的node在netron可视化如下:


 

在模型量化编译时有log警告如下:

 

 

对应的卷积节点输入结构如下图:

 

 

最后量化编译后得到的模型再用netron可视化检查之前想要更改的量化激活节点的量化精度仍然是int8,没有变为int16,请问这是什么原因?

算法工具链
征程5
评论1
0/1000
  • Huanghui
    Lv.5

    其他节点的conv算子都支持吗?只有这个不支持int16?

    2025-07-30
    0
    0