专栏算法工具链QAT量化模型检查阶段报错

QAT量化模型检查阶段报错

已解决
默认383362025-05-26
34
5
您好,我在用QAT量化faster rcnn模型过程中,在模型检查阶段报错 AssertionError: max_pool2d with return_indices true is not supported,我代码中只定义了self.maxpool = nn.MaxPool2d(kernel_size=3, stride=2, padding=0, ceil_mode=True),并未指定return_indices,不知道是不是和torchvision.ops 的RoIPool的使用有关? 
另外想问一下, 工具链哪有faster rcnn的量化示例吗?我搜索发现Horizon Tensorflow Plugin里面有,但不知道在哪下载(https://developer.horizon.auto/blog/10464) 
算法工具链
征程5
评论3
0/1000
  • 费小财
    Lv.5

    你好,有完整的出错日志信息吗,主要看看 max_pool2d这个出错的调用信息或者其他有效信息的

    2025-05-27
    0
    2
    • 默认38336回复费小财:
      2025-05-27
      0
    • 费小财回复默认38336:

      return_indices 看上去这个返回值有问题,可以检查看看源码吗

      2025-06-09
      0
  • 默认38336
    Lv.1

    您好,麻烦给出些参考意见,谢谢

    2025-05-27
    0
    0
  • Huanghui
    Lv.5

    你好,目前工具链仅支持pytorch的方案。 至于报错,可以跟据max_pool2d提示将 return_indices 设置为false试试,确定是这个原因后在进一步处理。

    2025-05-29
    0
    0