专栏算法工具链transpose算子相关问题

transpose算子相关问题

已解决
默认401922024-11-14
80
5
1、J6
2、3.0.22
在转换模型时,关于transpose算子,既然transpose是被动量化算子,会随着之前的算子变化而变化,请问这里,我将transpose和它之前的算子都设置为int16的输入输出,为什么他之前的卷积变为int16了而transpose没有变化呢?(依旧是float32)按照约束的话transpose应该是没限制的啊,是因为transpose是之后就是模型的输出的原因吗?
Description
Description
Description
算法工具链
征程6
评论2
0/1000
  • Huanghui
    Lv.5

    收到!

    2024-11-14
    0
    0
  • Huanghui
    Lv.5

    你好,你这个不是最终的量化模型吧,看一下量化模型呢,是不是量化模型中已经被融合了

    2024-11-14
    0
    3
    • 默认40192回复Huanghui:

      这个是量化后的.bc模型

      这个网络就是OE包中的ssd_mobilenetv1,可以帮忙看一下么

      2024-11-15
      0
    • Huanghui回复默认40192:

      上面这个图你也看到了,量化编译的结果中已经没有transpose了,它只在转换过程中某些阶段存在~上板部署时是没有的,直接用就好

      2024-11-15
      0
    • 默认40192回复Huanghui:

      好的

      2024-11-15
      0