专栏算法工具链J6算法复现

J6算法复现

已解决
默认328322024-10-15
130
1

J6 请问J6的qcnet和BEVFormer的示例算法进行QAT量化编译后得到的模型.hbm格式的文件可以在J5上面部署推理吗?

另外关于在J6上对BEVFormer公版修改用于优化算子的代码能否拿来用于J5上的模型呢?

算法工具链
征程6技术深度解析
评论1
0/1000
  • Huanghui
    Lv.5

    你好,J6和J5在架构涉及上是不同的设计,支持的算子约束也是不一样的,所以J6上量化编译的.hbm模型文件是无法在J5上运行的;在J6上对BEVFormer公版修改用于优化算子的代码是否可用于J5,理论上可以但是我们没有做过尝试,即使可以在J5使用,因为硬件架构不同速度也比较慢,用户可自行尝试。

    2024-10-15
    0
    0