【硬件芯片】:J6(J6M/J6P)
【OE包版本】:v3.0.31 / v3.9.1
【问题描述】
我现在在J6板子上,想使用Python代码直接加载已经编译好的hbm模型,在BPU上做推理。
阅读OE官方文档,只找到了x86开发机环境下 horizon_tc_ui.HBRuntime 的仿真推理示例;以及板子上使用的测试工具hrt_model_exec;C的SDK
但是在板子OE包内,找不到板端对应的Python推理库/包,没有找到相关板端Python加载hbm模型的文档。
疑问:
1. J6板端原生支持BPU加速的Python包叫什么名字?如何获取?
2. 这个Python库,是OE包自带,还是需要我们手动在板上编译pybind11生成?
3. 有没有板端Python加载hbm模型、BPU推理的最小demo参考代码?
我已确认:
- 模型已经在x86工具链编译成功,生成xxx.hbm
- x86开发机使用horizon_tc_ui可以仿真推理正常
【OE包版本】:v3.0.31 / v3.9.1
【问题描述】
我现在在J6板子上,想使用Python代码直接加载已经编译好的hbm模型,在BPU上做推理。
阅读OE官方文档,只找到了x86开发机环境下 horizon_tc_ui.HBRuntime 的仿真推理示例;以及板子上使用的测试工具hrt_model_exec;C的SDK
但是在板子OE包内,找不到板端对应的Python推理库/包,没有找到相关板端Python加载hbm模型的文档。
疑问:
1. J6板端原生支持BPU加速的Python包叫什么名字?如何获取?
2. 这个Python库,是OE包自带,还是需要我们手动在板上编译pybind11生成?
3. 有没有板端Python加载hbm模型、BPU推理的最小demo参考代码?
我已确认:
- 模型已经在x86工具链编译成功,生成xxx.hbm
- x86开发机使用horizon_tc_ui可以仿真推理正常
- 子上hrt_model_exec的运行和c代码的运行
- 目标:**板子本地Python运行,BPU硬件加速**
请教:板端Python BPU推理库获取方式、安装方法、最小示例。 以及UCP是否有python的封装;
- 目标:**板子本地Python运行,BPU硬件加速**
请教:板端Python BPU推理库获取方式、安装方法、最小示例。 以及UCP是否有python的封装;
