专栏算法工具链bottleneck中的Add层跑在CPU了

bottleneck中的Add层跑在CPU了

已解决
默认056002026-01-07
39
1

J6M量化，模型的bottleneck中最后一个conv及Add都跑在CPU上了，多个模型出现这个问题，请问原因是什么？怎么解决呢？

算法工具链
技术深度解析
评论1
0/1000
  • Huanghui
    Lv.5

    1. 这个 跑在CPU上 你时如何判断的？

    2. 你时在用PTQ进行模型转换编译吗？如果是,在model_output下面有advisor文件，如果有CPU上的算子，其中会写原因的，你自己看吧！

    2026-01-07
    1
    -1