专栏算法工具链PTQ量化示例工程在量化的时候出错

PTQ量化示例工程在量化的时候出错

解答中
PSLJLU2026-05-25
25
5

工具链版本：OE 3.7.0

PTQ量化示例：03_resnet50

现象：运行到第3步：03_build.sh时，提示如下错误：

运行nvidia-smi结果如下：

查看NVIDIA Container Toolkit版本如下：

其他的查看的一些信息如下：

用QAT进行训练时调用显卡是没问题的，尝试用下图方式指定显卡编号也不行

编译日志hb_compile.log请见附件

附件:
算法工具链
技术深度解析征程6
评论2
0/1000
  • DR_KAN
    Lv.5

    提升校准速度可以试一下用max的方式，一般来说是最快的

    2026-05-25
    0
    0
  • HuangHui
    Lv.5

    收到，先看看哈，可以先尝试用CPU的方式（CPU的docker）跑一下看看

    2026-05-25
    0
    3
    • PSLJLU回复HuangHui:

      CPU可以跑，没问题，但是速度有点太慢了，还是希望能用GPU跑

      2026-05-25
      0
    • HuangHui回复PSLJLU:
      PTQ只有校准时可以通过GPU进行bs8加速，编译过程依然还是CPU~，你说的度有点太慢指的时哪个过程呢
      2026-05-25
      0
    • PSLJLU回复HuangHui:

      就是会出现两次进度条的那个，大概好几秒走1%的样子

      2026-05-25
      0