专栏算法工具链PTQ量化示例工程在量化的时候出错

PTQ量化示例工程在量化的时候出错

已解决
PSLJLU2026-05-25
72
6

工具链版本：OE 3.7.0

PTQ量化示例：03_resnet50

现象：运行到第3步：03_build.sh时，提示如下错误：

运行nvidia-smi结果如下：

查看NVIDIA Container Toolkit版本如下：

其他的查看的一些信息如下：

用QAT进行训练时调用显卡是没问题的，尝试用下图方式指定显卡编号也不行

编译日志hb_compile.log请见附件

附件:
算法工具链
技术深度解析征程6
评论2
0/600
  • DR_KAN
    Lv.5

    提升校准速度可以试一下用max的方式，一般来说是最快的

    2026-05-25
    0
    0
  • HuangHui
    Lv.5

    收到，先看看哈，可以先尝试用CPU的方式（CPU的docker）跑一下看看

    2026-05-25
    0
    4
    • PSLJLU回复HuangHui:

      CPU可以跑，没问题，但是速度有点太慢了，还是希望能用GPU跑

      2026-05-25
      0
    • HuangHui回复PSLJLU:
      PTQ只有校准时可以通过GPU进行bs8加速，编译过程依然还是CPU~，你说的度有点太慢指的时哪个过程呢
      2026-05-25
      0
    • PSLJLU回复HuangHui:

      就是会出现两次进度条的那个，大概好几秒走1%的样子

      2026-05-25
      0
    • HuangHui回复PSLJLU:

      CPU下校准实际上就是一遍遍推理，速度跟机器配置有关，使用GPU报错的问题已语音排查通过hmct-2.6.5-cp310-cp310-linux_x86_64.whl重新安装解决。该贴关闭了哈

      2026-05-28
      0