专栏算法工具链关于yolo示例中ATTN/Softmax 算子改写的问题

关于yolo示例中ATTN/Softmax 算子改写的问题

已解决
YUANYI2025-08-29
61
6

【J5】

根据YOLO11 Instance Segmentation中的流程，对Attention模块进行等价改写，改为AAttn：

但是编译bin文件的时候，发现attn = exp_attn / sum_attn这个除法被放在了CPU上，请问这是什么原因？

算法工具链
征程5
评论3
0/1000
  • Huanghui
    Lv.5
    你看下能不能强制指定在bpu上
    也就是强制指定他的精度为int8
    2025-08-29
    0
    3
    • YUANYI回复Huanghui:

      指定后，编译时发现还是在cpu上

      2025-08-29
      0
    • Huanghui回复YUANYI:

      你好，从编译信息来看，第一个是Euqal算子先在cpu上的，但是从你给的这个代码里面，并没有看出来有euqal算子。

      2025-09-02
      0
    • Huanghui回复YUANYI:

      你可以导出ONNX模型，把verbose参数设置成True，这样导出的onnx模型里面包含了导出过程信息。可以看Euqal算子具体在模型哪个位置

      2025-09-02
      0
  • DR_KAN
    Lv.4

    因为cast算子只支持CPU，所以附近的算子也都放在CPU了

    2025-09-03
    0
    0
  • Vincent
    Lv.4

    你好，请问这个问题解决了吗？

    2025-09-08
    0
    0