专栏算法工具链J6工具链模型精度验证(int_infer)无法加载GPU?

J6工具链模型精度验证(int_infer)无法加载GPU?

已解决
chengang2024-10-15
113
5

1. 芯片型号:J6

2. 天工开物开发包 OpenExplorer 版本:J6_v3.0.17

3. 问题定位:模型推理

4. 问题具体描述:你好,我们在开发机中进行模型float和qat精度验证都可以使用gpu推理,int_infer验证时无法使用gpu推理,只能用cpu推理,速度特别慢,是需要设置什么吗?

5. 如果提供的信息过多,建议进行打包并上传附件至百度网盘

算法工具链
征程6
评论3
0/1000
  • J6标定问题
    Lv.1
    参考J6_v3.0.17文档10.1.4.4.1.4章节,int_infer验证MobileNetv1例子就使用GPU推理
    2024-10-15
    0
    2
    • chengang回复J6标定问题:

      你好,你能帮忙试下matprv2这个模型int_infer验证吗?我试了下,还是用不了gpu加速:(。

      2024-10-15
      0
    • J6标定问题回复chengang:

      参考这个文档https://developer.horizon.auto/developerForum?fullPath=/home/community/bbsdetail?bid=634342179151110144,有详细使用说明

      2024-10-17
      0
  • J6标定问题
    Lv.1

    问题已收到,我们先分析一下

    2024-10-15
    0
    0
  • J6标定问题
    Lv.1

    客户您好,长时间未收到你的答复,相信问题已解。如对此尚存疑问欢迎新帖讨论,感谢您的参与!

    2024-10-24
    0
    0