专栏算法工具链X3 工具连编译几乎相同的模型会增加很多 Pad 节点

X3 工具连编译几乎相同的模型会增加很多 Pad 节点

已解决
tripleMu2023-04-28
33
9

用户您好，请详细描述您所遇到的问题：

https://pan.baidu.com/s/1PqzIrz1T99o7nho2Yqr7bg 提取码: 5pbk

算法工具链
评论3
0/1000
  • 颜值即正义
    Lv.2

    您好。我把检测模型和yaml放在xj3_2.5.2下编译，quantized_model.onnx并没有出现新增的pad算子

    2023-04-28
    0
    6
    • tripleMu回复颜值即正义:
      det结尾的也没有吗？我这测试2.5.2就是会插入很多pad。我用 hb_mapper 检查得到的是没有的，但是量化后就有了
      2023-04-28
      0
    • tripleMu回复颜值即正义:

      我这的日志：

      链接: https://pan.baidu.com/s/1XC0I_u2nBb1bZZWzQbVBLQ 提取码: 4d1t

      在我笔记本上 100% 复现

      2023-04-28
      0
    • 颜值即正义回复tripleMu:

      det模型，在2.5.2下编译，量化后确实没有pad算子。

      我这里提供下我的量化onnx和log文件：

      链接：https://pan.baidu.com/s/1mmtxDXFfRgIqIh-llDKr6g?pwd=1xmx

      提取码：1xmx

      2023-05-04
      0
    • 颜值即正义回复tripleMu:

      这是我用hb_perf出来的结果，看了下你的log，BPU部分是不是被concat分成好多段了？

      2023-05-04
      0
    • 颜值即正义回复颜值即正义:

      因为没有校准数据，所以我用的校准方式是skip，没有用default，你试一下skip会怎么样

      2023-05-04
      0
    • 颜值即正义回复颜值即正义:

      这里发现你的log里，这里有四段，而且输入数据来源和输出layout都不太一样，你那边再检查一下呢？

      2023-05-04
      0
  • tripleMu
    Lv.1

    工具链 2.5.2 问题

    而且我发现 hb_mapper checker 得到的 .hb_check 下模型是没有问题的，问题应该出现在量化编译过程。

    工具链 2.4.2 也没有问题。

    2023-04-28
    0
    0
  • 颜值即正义
    Lv.2
    2023-05-04
    0
    0