专栏算法工具链j3转yolov8分割模型，发现有两个节点在cpu上运行

j3转yolov8分割模型，发现有两个节点在cpu上运行

已解决
driverli2024-08-01
101
12

1. 芯片型号：J3

2. 天工开物开发包 OpenExplorer 版本：horizon_xj3_open_explorer_v1.16.2c

3. 问题定位：模型转换

4. 问题具体描述：在执行 sh 03_build.sh转yolov8分割模型时，发现有一个输出的最后两个节点，运行在cpu上

对应模型的节点如下

我通过设置run_on_bpu参数，发现节点还是在cpu上运行

请教一下是我哪里设置的不对嘛还是什么原因呢？

算法工具链
+1
评论3
0/1000
  • momo（社区版）
    Lv.4

    hello,麻烦根据算子支持列表https://developer.horizon.cc/api/v1/fileData/horizon_j3_open_explorer_cn_doc/source_doc/x3_ddk_docs.html检查一下算子是否符合在BPU上运行的限制

    2024-08-01
    0
    5
    • driverli回复momo（社区版）:

      transpose在文档中说明的是在cpu上运行，但是实际conv+transpose都是在bpu上运行的。楼下回复的用 ； 隔开已经解决了。

      2024-08-01
      1
    • driverli回复momo（社区版）:

      还有个问题想请教下，模型输出的最后个维度是按照多少位对齐的呢？

      2024-08-01
      0
    • Pipeline回复driverli:

      参考用户手册6.2.5.5


      2024-08-01
      0
    • momo（社区版）回复driverli:

      在 高性能模型设计建议章节讲到了，可以参考一下https://developer.horizon.cc/api/v1/fileData/horizon_j3_open_explorer_cn_doc/ddk_doc/navigation/ai_toolchain/docs_cn/horizon_ai_toolchain_user_guide/model_conversion.html#id17

      2024-08-01
      0
    • driverli回复momo（社区版）:

      好的 感谢您的支持

      2024-08-01
      0
  • Pipeline
    Lv.2

    run_on_bpu的参数设置不正确，用 ； 隔开，你再尝试一下呢

    2024-08-01
    0
    3
    • driverli回复Pipeline:

      问题已解决，但是我看设置完以后，该节点的余弦相似度降到了0.8多，是否对模型的输出有影响呢

      2024-08-01
      0
    • Pipeline回复driverli:

      参考用户手册4.1.12使用精度debug工具来定位敏感节点，开启高精度量化

      2024-08-01
      0
    • driverli回复Pipeline:

      好的 感谢您的支持

      2024-08-01
      0
  • DR_KAN
    Lv.4

    如果配置到bpu后精度掉点，可以设置下int16量化，效果应该会好很多

    2024-08-01
    0
    1
    • driverli回复DR_KAN:

      好的 我试一下

      2024-08-01
      0