# 1. 量化简述..## 1.1 定义.将网络参数从 32 位浮点数据映射到更低位数(int16/int8/int4等)的数据，这个过程称之为量化。反之，称之为反量化。..量化本质上是对数值范围的重新调整，可以「粗略」理解为是一种线性映射。(之所以加「粗略」二字，是因为有些论文会用非线性量化(对数量化等)，但目前在工业界落地的还都是线性量化(对称量化、非对称量化、二值化等)，地平线采用的主要是线

.随着人工智能模型日益复杂和庞大，常规的后训练量化（PTQ）已无法很好地应对复杂模型结构带来的精度损失问题。因此，越来越多的开发者转向训练中量化（QAT），以期获得更好的模型部署效果。 . .然而，QAT通常需要反复进行全精度与量化之间的训练过程，对显卡资源尤其是GPU显存提出了更高的要求。本文将从NVIDIA显卡的CUDA显存管理机制出发，帮助大家掌握显存优化技巧，避免训练过程中的常见显存问

在我们深入探索产品及相关技术应用的过程中，大家针对诸多关键环节产生了一系列疑问。针对这些疑问我们经过收集与系统整理，将高频问题及精准解答汇总呈现，该FAQ旨在为您扫清知识障碍，助力您高效使用产品或技术。另外，我们会根据用户的反馈情况持续进行FAQ的整理和迭代并分期分享给用户。当你遇到困难，不妨来此查找看看，也是这里有与你“志同道合”的伙伴。 .# 1. 开发环境 .- **Q**：J3精度debu

..1 截取onnx模型片段.在模型编译的时候，往往会出现各种各样的报错，您可能会受限于公司要求，无法把完整的onnx模型发送给地平线做分析，此时可以考虑截取onnx模型，找到可复现的片段，再将该片段提供给地平线的技术支持人员（这种方式通常是可以被公司允许的）。我们可以直接利用onnx的python api去完成这件事，onnx.utils.extract_model的具体使用方式如下：.onnx

.前言.在上一篇帖子【【QAT查表算子调优-1】如何定位引起误差的查表算子】当中，我们针对定位引起误差的查表算子展开了细致且全面的讨论，详细地阐述了其中所涉及的思路以及具体的方法。在实际的工作场景里，准确且高效地定位到引发误差的查表算子，能够为后续的调优工作奠定坚实的基础。当我们通过特定的流程和手段，成功地锁定了具体的查表算子之后，接下来需要面对的关键问题便是：应该怎样对这些查表算子进行调优呢？.

..一个通用的具身智能机器人是希望能像人一样处理很多事情，但这很难通过写各种规则实现，即使写规则也要比自动驾驶写规则难的多，因为自动驾驶不太涉及Manipulation任务，而具身智能机器人是要完成各种复杂的Manipulation的，因此一个端到端的通用的VLA大模型便很适合具身智能机器人的需求，这也是随着近几年LLM、VLM、VLA的火爆发展和性能的不断提升，基于VLA的具身智能机器人成为当下

.前言.在端侧部署时（如在移动设备、嵌入式芯片上），为了加速模型推理、减少功耗和资源开销，往往会将某些计算复杂的函数（如 exp、log、tanh、sigmoid、softmax 等）转为查表操作。查表算子在转成定点计算时不可避免地会出现误差，此时就需要定位引起精度下降的具体算子以及对其进行针对性的优化。...本文将讲述在使用地平线QAT链路基于J6 系列平台进行模型部署时，对查表算子进行精度调优

.....OpenDriveVLA：基于大规模视觉语言行动模型的端到端自动驾驶研究......论文信息...标题：OpenDriveVLA: Towards End-to-end Autonomous Driving with Large Vision Language Action Model...作者：Xingcheng Zhou*, Xuyuan Han, Feng Yang, Yunpu

. . .由于功能的差异，机器人的环境感知系统和汽车自动驾驶的有一定差异，尤其是其中深度相机，在机器人上的应用更为广泛。.例如，深度相机在部分人形机器人中的应用：..其中：...优必选：采用RGBD+双目相机；...傅利叶GR-1：采用深度相机；...开普勒的先行者：采用3D视觉+鱼眼环视相机；...小米CyberOne：搭载的Mi-Sense深度视觉模组采用iToF+RGB（小米设计，欧菲光代工

.宇树科技是大家非常熟悉的著名机器人公司，开发了很多优秀的四足和双足机器人产品。..图片来源：宇树科技.除了机器人整机，宇树科技还自研了激光雷达产品：Unitree 4D Lidar L1和L2。..图片来源：宇树科技.L1和L2在工作原理上类似，本文以L1为例，通过硬件拆解，对其工作原理做一下浅析。..图片来源：宇树科技. .01.基本参数和应用.宇树科技激光雷达L1是2023年3月上市，L2是

....clangd插件以及clangd LSP语言服务，实现代码的补齐和代码跳转功能，其原理是....利用cmake、xmake、ninja的编译命令导出功能产生compile_commands.json...利用bear工具捕捉makefile的编译命令生成compile_commands.json...工程本身makefile支持生成compile_commands.json，该种情况下要求

.目前大语言模型的多模态能力和推理迅速提升，在各行业垂直领域的运用不断涌现。作者调研了目前自动驾驶领域大语言模型的运用，主要论文如下，先看整体趋势：. ...双系统（e.g. 理想的快慢系统）...分层规划...多模态大模型（能理解视觉和文本的输入）...人机交互(人机交互新范式)...Chain-of-Thought（思维链）...fine-tune 优于 in context learning

.来源 | PeidongL@知乎、西安交通大学.....链接 | https://zhuanlan.zhihu.com/p/14173403896. ...... .不得不感叹的是，自动驾驶行业的技术的发展日新月异，技术热点已经从BEV迅速地转移到了端到端上。不管如何看待端到端，最近一年端到端的火热已经切实影响到了这个行业的每一个人。相比于在紧锣密鼓恶补各种模型知识的传统规划的工程师而言，大家似

1.导出onnx模型。.服务器端或者本地电脑git clone https://github.com/valeoai/WoodScape.git.进入omnidet下的models文件夹下面找到onnx文件夹，会找到export_onnx.py文件。根据文件顶端说明，需要去配置相关的文件。进入data/params.yaml中，在配置文件的最下main可以找到# -- ONNX MODEL EXP

在神经网络训练与部署中，激活函数扮演着关键角色，不仅影响模型训练过程，也直接决定了模型部署到实际设备后的性能表现。本文将介绍两种常用激活函数：**Sigmoid** 和 **Hard Sigmoid**，全面对比它们的原理、优缺点、应用场景，并提供实际代码示例，帮助你更好地理解与使用它们，尤其是在量化和嵌入式设备部署场景中。..---..## 一、Sigmoid 与 Hard Sigmoid 简介

1.环境准备.安装依赖库.pip install -i https://pypi.tuna.tsinghua.edu.cn/simple ultralytics.2. 导出 YOLOv9t 的 ONNX 模型 .（1） 创建 Python 脚本文件（如 export_onnx.py） .from ultralytics import YOLO # 加载 yolov9t 的预训练权重.model =

.近年来，自动驾驶技术快速发展，萝卜快跑已经无缝融入了武汉的交通，不少车企的智驾系统也都上路了。. .然而，在复杂交通环境中，如何理解和预防事故仍然是一个巨大挑战。比如前段时间特斯拉 FSD 终于入华。但中国版 FSD 似乎有些「水土不服」，频繁闯红灯、开上人行道、逆行，被网友调侃为「美国司机直接来中国开车」。. .同时，现有的方法往往难以准确解释事故发生的原因，并缺乏有效的预防策略。此外，由于事

..一个通用的具身智能机器人是希望能像人一样处理很多事情，但这很难通过写各种规则实现，即使写规则也要比自动驾驶写规则难的多，因为自动驾驶不太涉及Manipulation任务，而具身智能机器人是要完成各种复杂的Manipulation的，因此一个端到端的通用的VLA大模型便很适合具身智能机器人的需求，这也是随着近几年LLM、VLM、VLA的火爆发展和性能的不断提升，基于VLA的具身智能机器人成为当下

.....OpenDriveVLA：基于大规模视觉语言行动模型的端到端自动驾驶研究......论文信息...标题：OpenDriveVLA: Towards End-to-end Autonomous Driving with Large Vision Language Action Model...作者：Xingcheng Zhou*, Xuyuan Han, Feng Yang, Yunpu

.. . .由于功能的差异，机器人的环境感知系统和汽车自动驾驶的有一定差异，尤其是其中深度相机，在机器人上的应用更为广泛。.例如，深度相机在部分人形机器人中的应用：..其中：...优必选：采用RGBD+双目相机；...傅利叶GR-1：采用深度相机；...开普勒的先行者：采用3D视觉+鱼眼环视相机；...小米CyberOne：搭载的Mi-Sense深度视觉模组采用iToF+RGB（小米设计，欧菲光代