论坛算法工具链v3.81 hb_verify 两个模型,出现oom

v3.81 hb_verify 两个模型,出现oom

2008032026-07-08
69
5

使用hb_verify 比较两个模型,报以下错误,可能是什么原因?

root@0dfbf82a04e7:/open_explorer/sparse_e2e# free -h

total used free shared buff/cache available

Mem: 62Gi 5.0Gi 31Gi 627Mi 25Gi 56Gi

Swap: 8.0Gi 900Mi 7.1Gi

root@0dfbf82a04e7:/open_explorer/sparse_e2e#

算法工具链
技术深度解析征程6
评论2
0/600
  • HuangHui
    Lv.5

    从日志看,ScatterND 和 TopK 只是 warning,不是本次失败的直接原因。真正的报错点是 ONNXRuntime 在执行 ReduceSum 节点 node_sum_15 时申请内存失败,申请大小约 274MB。

    先看看是不是真的内存不够了吧,尝试把Docker 容器的内存限制开大一点试试呢;docker run -it --memory-swap=32g

    2026-07-08
    0
    3
    • 200803回复HuangHui:

      docker run 给的是 --memory=64g, --memory-swap=32g

      2026-07-09
      0
    • HuangHui回复200803:

      收到,模型分享我一下可以不?

      2026-07-09
      0
    • HuangHui回复200803:

      你把模型搞成两段看看呢,一段包含node_sum_15,一段不包含。排查一下是不是这个节点导致的问题。

      2026-07-09
      0
  • D-bot
    Lv.4

    您好,鉴于您长时间未回复,本问题将暂时关闭,若您还有问题,可重新发起提问,感谢!

    2026-08-07
    0
    0