模型部署系列之2(基于J5工具链)--Ultra-Fast-Lane-Detection-v2

一. Ultra-Fast-Lane-Detection-v2 简要介绍

         车道线检测是自动驾驶和高级驾驶辅助系统(ADAS)的基本组成部分，用于识别和定位道路上的车道标记。虽然深度学习模型已经取得了巨大的成功，但仍有一些重要和具有挑战性的问题有待解决。

          第一个是效率问题。在实际应用中，由于下游任务对检测速度要求较高，在车辆计算设备有限的情况下，车道检测算法被快速执行来提供实时的感知结果。此外，以往的车道检测方法主要基于分割，采用密集的自底向上的学习范式，这导致难以取得较快的运行速度。此外，以往的车道检测方法主要基于分割，采用密集的自底向上的学习范式，这导致难以取得较快的运行速度。

          除了效率问题，另一个挑战是无视觉线索问题，车道检测任务是寻找车道的位置，不管车道是否可见。因此，如何处理严重遮挡和极端光照条件下没有可见信息的场景是车道检测任务中的一个主要难点。为了缓解这个问题，能够潜在影响检测结果的额外线索是至关重要的。例如，道路形状、车辆行驶方向趋势、不被遮挡的车道线端点等都有利于检测。为了利用额外线索，通过扩大感受野来利用更多信息对车道检测是可取的。这就提出了一个自然的问题:我们能否找到一种具有大感受野快速且全局的范式用于车道检测任务?基于上述动机，Ultra-Fast-Lane-Detection-v2提出了一个稀疏的自顶向下的范式来解决效率问题和无视觉线索问题。

二. 训练环境安装，验证

         请参考链接：https://github.com/cfzd/Ultra-Fast-Lane-Detection-v2/blob/master/INSTALL.md

        将.pt 模型型转换为ONNX格式 

        请参考链接： https://github.com/cfzd/Ultra-Fast-Lane-Detection-v2

四. 用地平线工具链完成PTQ量化

       1. 浮点模型准备

       2. 校准数据集准备

 从CULane车道线数据集中（数据集百度网盘链接: https://pan.baidu.com/s/1k0VdpN-0lZ4MPlSAuP6zJw?pwd=au8m）选取100份照片作为校准数据：

       校准数据存放位置：

 

      运行校准数据预处理脚本：02_preprocess.sh

      3. 模型PTQ量化

         模型PTQ量化理论：

         模型量化就是将浮点存储（运算）转换为整型存储（运算）的一种模型压缩技术。训练深度神经网络时，往往都会使用FP32的数据精度来表示权值、偏置、激活值等。在深度学习模型性能提高的同时，计算也越来越复杂，计算开销和内存需求逐渐增加。 庞大的网络参数意味着更大的内存存储，这极大地限制了在资源受限设备，例如智能手机、智能汽车等上的部署。

         训练后量化（Post-Training Quantization,PTQ），PTQ不需要再训练，因此是一种轻量级的量化方法。在大多数情况下，PTQ足以实现接近FP32性能的INT8量化。

         运行脚本完成模型转换：

查看脚本： cat 03_build.sh

= 

查看yaml 文件：

  

运行脚本：./03_build.sh

                 

模型转换后产物：

 

五. 性能分析

       静态性能验证,使用hb_perf工具:

    性能分析后产物：

 

   用浏览器打开html文件，可视化性能参数：