专栏硬件技术hybridnets和yolop算法在地平线J5的性能分析

hybridnets和yolop算法在地平线J5的性能分析

江城子2024-12-30
88
0

 

一、hybridnets算法网络模型性能分析

1、hybridnets算子支持情况

网络模型转换bin文件在J5上算子支持情况,对很多算子支持不太友好,很多算子都在cpu上,并且模型量化掉点很严重,转换结果截图如下:

 

总结:

  • 1、第二列表示运行在CPU或者BPU上,通过分析hybridnets部分算子运行在CPU上。

  • 2、第五列表示模型量化掉点情况,值越接近1表示误差越小。

 

2、hybridnets耗时

网络模型在J5上面运行推理耗时45ms,推理耗时太久了。推理结果截图如下:

 

总结

  • 1、单帧推理耗时45ms,帧率是22FPS。

  • 2、模型尺寸640x640,推理耗时只是模型推理耗时,不包括前后处理,不包括其他占用cpu抢占的情况下测试推理耗时。

 

 

二、yolop算法网络模型性能分析

1、yolop算子支持情况

网络模型转换bin文件在J5上算子支持情况,对很多算子支持比较友好,算子都在bpu上,并且模型量化掉点不严重,转换结果截图如下:

 

总结:

  • 1、第二列表示运行在CPU或者BPU上,通过分析yolop所有算子运行在BPU上。

  • 2、第五列表示模型量化掉点情况,值越接近1表示误差越小。

 

2、yolop耗时

网络模型在J5上面运行推理耗时19ms,推理耗时比hybridnets快一倍。推理结果截图如下:

 

 

总结:

  • 1、单帧推理耗时19ms,帧率是51FPS。

  • 2、模型尺寸640x640,推理耗时只是模型推理耗时,不包括前后处理,不包括其他占用cpu抢占的情况下测试推理耗时。

三 性能分析实验对比结论

1、实验对比:

 

2、实验结论 :

经过yolop网络算法和hybridnets网络算法的实验对比分析,从J5板端的算子支持情况和推理耗时分析情况来看,优先方案的网络算法最终选择yolop算法比较合适J5平台。

 

 

 

 

硬件技术
征程5技术深度解析
评论0
0/1000