# J6X ISP配置项..{. "hw_id": 1, // ISP硬件模块ID：Matrix 6E/M（0 ~ 1）. "slot_id": 0, // ISP硬件通道id，范围：. //

# J6 M/E ISP软件架构overview....如图所示，ISP 软件firmware包括：.(1)ISP driver：实现对isp hardware的访问、isp多路调度管理、isp中断处理、buffer管理、calibra

# ISP proc信息命令与形式..```plaintext.cat /proc/hb_isp.cat /proc/hb_isp1.cat /proc/hb_isp2.cat /proc/hb_isp3..```.# isp的proc信息分析.(1)active: 当前正在工作的通路数;.(2)dev_sched_mode: ISP当前工作的调度模式；.(3)safety_slots: 表示功能

# 回灌类型介绍.VPS软件方案提供如下回灌功能：. 回灌功能经常用于局部数据通路调试、特定模块单独调试、离线tuning(ISP)等。..1、ISP回灌. 支持sensor raw数据回灌进ISP并进行处理。..2、PYM回灌. 支持YUV420 数据回灌进PYM并进行处理。..3、GDC回灌. 支持YUV420 数据回灌进GDC并进行处理。..# ISP p

1. 功能概述¶本文的demo sample实现将RSA私钥导入HSM中，并使用此私钥调用HSM engine进行RSA签名；将证书存储到RPMB中，从RPMB中读取证书并解析，获取到公钥，并使用此公钥进行RSA验签。 RSA验签可以选择使用openssl 软件算法，也可以选择调用HSM engine。1.1. 软件架构说明¶软件架构框图如下图所示 ：1.2. 软件流程说明¶本sample主要流程

1. 功能概述¶hbmem api使用说明，包括com buffer、graphic buffer、graphic buffer group、queue、pool、share pool的创建使用，多进程共享等。1.1. 软件架构说明¶本sample基于libhbmem API实现，调用libhbmem提供的API，实现不同buffer类型的内存申请和进程间共享。1.2. 代码位置及目录结构¶1.

MQBench（Model Quantization Benchmark）是由ModelTC团队维护的开源模型量化评估与调优框架，旨在简化深度学习模型在各种硬件平台上的量化过程。它基于PyTorch构建，支持多种后端（如TensorRT、SNPE、OpenVINO等），并提供从量化感知训练（QAT）到模型部署的完整工具链。一、什么是QATQAT（Quantization Aware Trainin

声明：本文主要参考开源资料进行学习整理，如有错漏，欢迎评论交流~引言在进行prompt长度对齐和 chunk prefill 时，反复出现一个动作：左 padding 之后，attention_mask 要在 pad 位置同步补 0。很多时候只一句话带过——"这些是 pad，不要 attend（关注） 它们"——但背后其实藏着 LLM 注意力机制的一块拼图：causal attention（因果注

声明：本文主要参考开源资料进行学习整理，如有错漏，欢迎评论交流~引言假设已经解决了"形状不匹配"的问题——把任意长度的 prompt 左 padding / 左截断对齐到固定长度 L，喂进定形的 prefill 静态图。但形状对齐了，显存不一定够。设想一条对齐到 L=1216 的 prompt，prefill 阶段要算一个 1216 x 1216 的注意力矩阵；如果业务允许的 L 开到几千，单次

声明：本文主要参考开源资料进行学习整理，如有错漏，欢迎评论交流~引言把一个 LLM 部署到端侧跑推理，输入永远是一条长度任意的 prompt："今天天气真好，出去走走吧" → tokenize 后 8 个 token."请帮我把这段长文档总结成三个要点……" → tokenize 后 2037 个 token但端侧推理引擎拿到这条 prompt 时，会立刻撞上一堵“静态”墙：导

> 声明：本文主要参考开源资料进行学习整理，如有错漏，欢迎评论交流~..在自动驾驶场景下，摄像头 + 激光雷达的传感器融合方案是最常见的感知技术路线，目标是充分利用二者的互补性：..- 摄像头优势：分辨率高、纹理丰富、颜色信息齐全，有利于识别语义信息（车道线、交通灯、行人类别等）。.- 激光雷达优势：天然地具有深度信息，直接测得高精度距离和稠密点云，有利于构建 3D 几何结构和检测障碍物。...融

> 声明：本文主要参考开源资料进行学习整理，如有错漏，欢迎评论交流~.# 1. BN简介.Batch Normalization (BN)：深度学习中常用的归一化层，核心作用是对每个 batch 的特征做 (x - μ)/σ 归一化（μ 是均值，σ 是方差），并通过可学习的 γ、β 调整分布；...![Description](https://prod-dc-resources.oss-cn-be

声明：本文主要参考开源资料进行学习整理，如有错漏，欢迎评论交流~1. 引言当我们把一个训练好的大语言模型（以 Qwen3-VL-2B-Instruct 为例，vocab_size=151936，hidden_size=2048）部署到端侧时，会看到一个有意思的现象：模型里有一个 embed_tokens 模块，负责把 token id 转成向量；模型里还有一个 lm_head 模块，负责把最后的隐

# 量化为什么会有损失：从量化误差到精度下降..## 1. 引言..在上一篇文章中，我们介绍了模型量化的基本概念。..模型量化通过降低模型参数和计算过程中的数值精度，将原本使用 FP32 等高精度浮点数据表示的模型转换为 INT8 等低比特整数模型，从而降低模型存储空间、减少计算开销，并提升模型在边缘设备上的推理效率。..然而，模型量化带来的收益并不是没有代价的。..在 FP32 模型中，一个参数

# 模型量化入门：从浮点模型到低比特表示..## 1. 引言..随着深度学习模型不断发展，网络结构越来越复杂，参数规模和计算量也持续增长。大型神经网络虽然能够带来更强的特征表达能力，但同时也带来了更高的存储需求、更大的计算开销以及更高的部署成本。..在云端服务器环境中，大规模模型通常可以依靠强大的计算资源运行，但对于移动端、嵌入式设备和边缘 AI 芯片而言，计算资源、内存容量以及功耗预算都更加有限

# YOLOv5x 在 Horizon J6 上的端到端部署实践（下）：板端推理与精度评估..上篇完成了模型从 PyTorch 到 HBM 的转换。本篇继续介绍板端 C++ 推理部署，包括 NV12 输入构造、UCP/DNN API 调用、YOLOv5 输出解析、交叉编译、板端运行以及 mAP 精度评估。..> 前置产物：`yolov5x_640x640_nv12.hbm` .> 板端输入：NV

1. 问题背景在 Horizon J6 Open Explorer 工具链中部署 YOLOv8s 时，最初采用 Ultralytics 标准导出的 ONNX 模型。标准 YOLOv8 ONNX 的输出通常为：output0: [1, 84, 8400]其中：84 = 4 个边框坐标 + 80 个类别分数该输出已经在 ONNX 图内完成了：Detect Head 卷积.→ DFL reshape.→

本文记录 YOLOv8s 在地平线 J6M 上的最终可复现部署流程。正式方案统一采用 Raw6 六路输出、PTQ INT8、NV12 Runtime 输入、CPU 后处理。文中命令需要根据实际 SDK 安装目录、服务器地址和开发板目录调整。1. 环境搭建1.1 创建 OpenExplorer 容器目的：使用固定版本的 OpenExplorer 工具链，隔离模型转换和编译环境。本文使用的镜像为：op

本文主要针对开源资料学习整理，如有错漏欢迎评论交流~1. 引言理解 MoE，不妨从一个直觉说起——假设你有一家医院，来了一个病人，你希望给他最好的治疗。一种做法是：养一个全能医生，什么病都他一个人看。这个医生必须精通所有科室，能力极强，但每次看诊都要把全部知识过一遍，非常累，看得也慢。另一种做法是：养一百个专科医生，再配一个分诊台。病人来了，分诊台判断他该看哪几个科室，然后只让对应的专科医生出手。

内存与 CPU 相互纠缠：内存不足 → alloc/free 频繁 → CPU 升高 → 帧率下降；CPU 过载 → Cache 同步不及时 → DDR 带宽争抢 → 延迟跳变。以下策略从根源打破这个循环。一、内存优化1. 关闭未使用后端UCP 启动时为所有后端创建调度线程并预分配 ION 内存，即使未使用。每个关闭的后端省 ~数百 KB。export HB_UCP_ALL_BACKENDS_DE