J6转换示例的ssd_mobilenetv1时，想将其中几个卷积层放在CPU上上执行，终端不显示

已解决

默认401922024-10-21

116

1.为什么有的算子将其放在CPU上执行后不显示？

设置其在CPU上运行

但转换模型的时候发现conv11_mbox_loc这一层不显示，并且和他连接的transpose（conv11_mbox_loc_perm）也变成了在CPU上执行

之后只将conv11_mbox_loc_perm放在CPU上执行

结果两个都还是在BPU上执行

2.如果不校准数据集的话，有什么方式可以显示每层算子都是在CPU还是BPU上执行的吗？J5我记得是在转模型时直接就显示了是在BPU还是CPU执行。

3.在docker环境下使用hrt_mode_exec 对分类网络的hbm模型进行infer和perf时，一直卡着不动；但是对比如yolov5x等检测网络的模型进行infer和perf就可以输出结果，为什么？是工具链的模拟器目前还不完善吗？

算法工具链

征程6

0/1000

Huanghui
Lv.5
你好，
1. conv11_mbox_loc设置CPU后，量化过程不会对该节点生成相似度信息。目前的日志策略没有相似度信息部分算子不进行日志输出。至于transpose节点在CPU和BPU上运行的问题是因为transpose本身是被动算子，他会随前后算子的变动而变动，具体可参考地平线开发者社区。
2. 从代码中了解到，没有校准数据集目前的策略是不会进行余弦相似度计算，而每层算子都是在CPU还是BPU上执行就是在余弦相似度计算过程中输出的，因此没有校准数据集目前是不会显示计算单元的。
3. 这个不排除是工具链的模拟器的问题，工具链目前尚处于不断优化迭代阶段。你可以把具体卡主的示例的PATH分享出来，我们也验证一下。
2024-10-23
1
6
- 默认40192回复Huanghui:
  感谢！
  1.transpose的问题我去看看您给的链接
  2.那后续会更新没有校准数据集显示算子在CPU/BPU上执行的接口吗？就和J5一样的那种
  3.这个问题我搞明白了，J6的docker默认的hbdk4、horizon_tc_ui是旧版本的，并且没有hmct这个包
  我是安装了你们给的这三个包的新版本
  不装这三个包的新版本就可以正常perf，装了就会一直卡主在这里
  并且在转换模型后的静态性能html界面里也没有层分析的部分
  
  2024-10-23
  0
  回复
- 默认40192回复Huanghui:
  还有一个问题也解决了
  就是，我安完这三个包之后，我要用hb_compile是正常的，之后我要用hrt_model_exec的话，不是先要编译么，编译完把生成的可执行文件和动态链接库export一下，然后才能使用hrt_model_exec去perf或者infer;但此时我要是在export后，再想去用hb_compile的话，就会报下面这个错误
  
  之前我的解决方法就是用hb_compile就不export，用hrt_model_exec就export一下
  现在不安装那三个新版本的包后，这个问题就没了........具体是哪个包的问题我没试
  
  2024-10-23
  1
  回复
- Huanghui回复默认40192:
  你好，后续是否会更新没有校准数据集显示算子在CPU/BPU上执行的接口，这个需要工具链产品侧确认，但是这个需求我会提哈，你可以持续关注版本迭代信息！
  2024-10-23
  0
  回复
- Huanghui回复默认40192:
  感谢反馈！这个是export LD_LIBRARY_PATH导致的LIB引用混乱引起的，在板端使用时只有aarch64的lib版本，是没有这个问题的
  2024-10-23
  0
  回复
- 默认40192回复Huanghui:
  好的，谢谢啦！
  
  2024-10-23
  0
  回复
- 默认40192回复Huanghui:
  你好，关于transpose这个问题，既然transpose是被动量化算子，会随着之前的算子变化而变化，请问这里，我将transpose和它之前的算子都设置为int16的输入输出，为什么他之前的卷积变为int16了而transpose没有变化呢？按照约束的话transpose应该是没限制的啊，是因为transpose是之后就是模型的输出的原因吗？
  2024-11-04
  0
  回复
Huanghui
Lv.5
收到
2024-10-21
0
0