J6 请问J6的qcnet和BEVFormer的示例算法进行QAT量化编译后得到的模型.hbm格式的文件可以在J5上面部署推理吗?另外关于在J6上对BEVFormer公版修改用于优化算子的代码能否拿来用于J5上的模型呢?
你好,J6和J5在架构涉及上是不同的设计,支持的算子约束也是不一样的,所以J6上量化编译的.hbm模型文件是无法在J5上运行的;在J6上对BEVFormer公版修改用于优化算子的代码是否可用于J5,理论上可以但是我们没有做过尝试,即使可以在J5使用,因为硬件架构不同速度也比较慢,用户可自行尝试。