专栏算法工具链转换量化模型时,遇到校准bs回退到1

转换量化模型时,遇到校准bs回退到1

解答中
ZQQ2026-02-04
13
1

在OE_v3.7_gpu版本中,执行以下命令

日志打印

为什么有个ERROR信息?这个影响模型转换结果吗?

 

2.在运行03_build.sh 时,日志输出

 

为什么校准模型的batch_size由8强制变成了1?这个会影响校准模型的精度吗

 

算法工具链
征程6技术深度解析
评论1
0/1000
  • Huanghui
    Lv.5

    1.ERROR Failed to generate node info: 'NoneType' object has no attribute 'keys'这是没有校准数据的原因。影响:打印不了精度信息。

    2.[E:onnxruntime:, sequential_executor.cc:516 ExecuteKernel] Non-ze 这是尝试使用b8校准时修改模型失败,回退到原有模型的warning,不影响校准~

    2026-02-04
    0
    0