专栏算法工具链unsupported layer:HzRsqrt

unsupported layer:HzRsqrt

已解决
小伍wyf2023-05-22
31
17

用户您好，请详细描述您所遇到的问题：

  1. 系统软件版本： x3_ubuntu_v1.1.5

  2. 问题涉及的技术领域： ai工具链

  3. 问题描述：我在工具链中模型通过check，并且生成.bin文件了，但是上版测试的时候出现unsupported layer:HzRsqrt ，Load model failed, model file:/root/weights/rpv3_mdict_160_r3.bin 。现象如下

通过论坛发现https://developer.horizon.ai/forumDetail/146176821770229949，这个帖子出现过这个问题。我通过将docker升级到oe2.5.2版本，并进入ddk/package/board上运行install.sh。完成之后我发现问题并未解决，runtime版本还是1.9.7。

在评论中我发现需要重新编译runtime sample的示例就可以得到libdnn.so和libhbrt_bernoulli_aarch64.so，我将x3pi中的/usr/lib/hbbpu/文件下的libdnn.so和libhbrt_bernoulli_aarch64.so替换掉。发现runtime成功更新到1.17.3版本，但是模型仍然导入失败（其他原本可以成功导入的bin文件也失败）
附件:
算法工具链
评论4
0/1000
  • 颜值即正义
    Lv.2
    您好，先试一下oe2.5.2里的hrt_model_exec工具能否对你的bin模型做性能评测呢？

    工具位置：

    ddk/package/board/hrt_tools/bin

    板端命令：

    chmod 777 ./hrt_model_exec

    ./hrt_model_exec perf xxxxxxxx.bin

    2023-05-22
    0
    7
    • 小伍wyf回复颜值即正义:
      2023-05-22
      0
    • 颜值即正义回复小伍wyf:

      这个warning可以忽略，perf默认是跑200帧的，可以通过frame_count参数调整跑的帧数，比如设置10，可以比较快得到结果。请耐心等待一下，不要手动ctrl c哦。

      2023-05-22
      0
    • 小伍wyf回复颜值即正义:
      2023-05-22
      0
    • 颜值即正义回复小伍wyf:

      那说明这个模型是可以在X3上正常跑起来的，可以再检查一下代码哈。

      2023-05-22
      0
    • 小伍wyf回复颜值即正义:

      代码就是最简单的导入模型

      下图中上面是runtime1.9.7版本的结果，下面是runtime 1.17.3版本的结果

      我觉得应该是runtime的libdnn.so和libhbrt_bernoulli_aarch64.so替换的导致的 我想问一下x3pi板子如何更新为oe2.5.2的runtime版本
      2023-05-22
      0
    • 颜值即正义回复小伍wyf:

      你试一下参考horizon_runtime_sample下板端的运行脚本，把相关的so文件放在一个目录里，然后配置完环境变量再运行你的程序。

      lib=../../../

      export LD_LIBRARY_PATH=${lib}:${LD_LIBRARY_PATH}

      2023-05-22
      0
    • 小伍wyf回复颜值即正义:

      我将编译成功的/open_explorer/ddk/samples/ai_toolchain/horizon_runtime_sample/xj3文件复制到x3机器上，里面的sample都可以运行。

      但是如果不替换libdnn.so和libhbrt_bernoulli_aarch64.so，python还是dnn.load()模型还是出现下面问题
      如果替换libdnn.so和libhbrt_bernoulli_aarch64.so，则会出现
      我想问一下有什么方法将oe2.5.2的中重新编译的libdnn.so和libhbrt_bernoulli_aarch64.so更新到x3pi的板子上。
      2023-05-23
      0
  • 颜值即正义
    Lv.2

    已定位到问题，是pythonSDK版本太低，我们正在推动更新。

    2023-05-23
    0
    5
    • 小伍wyf回复颜值即正义:

      pythonSDK版本有具体的更新计划？最近有更新计划？

      2023-05-23
      0
    • 颜值即正义回复小伍wyf:

      近期会更新的

      2023-05-23
      0
    • 小伍wyf回复颜值即正义:

      在更新之后，可以在这个贴子下update一下？并附带一下更新教程，谢谢

      2023-05-24
      0
    • 颜值即正义回复小伍wyf:

      嗯嗯好的

      2023-05-24
      0
    • 颜值即正义回复小伍wyf:

      你好，版本已更新，请重新刷一下系统镜像哈，教程可见：https://developer.horizon.cc/documents_rdk/getting_start/install_os

      2023-07-27
      0
  • 颜值即正义
    Lv.2

    另外，您需要在oe2.5.2下重新编译生成你的bin模型，不建议用新版本的板端推理库运行旧版本的模型。

    2023-05-22
    0
    1
    • 小伍wyf回复颜值即正义:

      使用的是新版本的bin文件

      2023-05-22
      0
  • 颜值即正义
    Lv.2

    您好，地平线工具链在持续迭代优化，为了给您提供更好的服务，希望您能抽出3分钟左右的时间，将您在使用工具链期间的感受和建议告诉我们，您的宝贵意见对我们很重要，非常感谢！

    2023-07-28
    0
    0