注：新版本教程已刷新，请查看《Bathc模型推理》。.前言在 J5 芯片上我们更建议使用大尺寸模型来发挥芯片算力优势，对于小模型（边长 <= 256），推荐使用 batch 模式进行推理，因为在batch模式下，模型的参数在每个 batchsize 内（或编译时分析得到的 batchsize 上限）只会 load 一次，从而可以更有效地平衡计算/访存比，降低算力浪费，让模型的运行更加高效。.本文将

## 1 前言..本文主要介绍在地平线开发板上针对resizer模型的使用与部署，如果您是一个初学者，对于该内容可能会有以下几点疑问：..1.什么是resizer？什么是resizer模型？.2.为什么要用resizer模型？.3.如何得到resizer模型？.4.resizer模型如何部署？..下面我将以具体的示例来对以上几个问题进行解释。.**答1**：resizer是指芯片上用于处理图像缩放

以太网开发指导FAQFAQ001: 以太网唤醒 问：唤醒包是任意包还是特定包？ 答：唤醒包是特定包，magic packet，下面是唤醒包参考脚本 #!/usr/bin/env python3# coding=utf-8import sysfrom socket import *def main(): if len(sys.argv) != 3: print("Usage

视频开发指导FAQFAQ001:常见问题 问： 所有硬件直连还是多路模式使用，对用户说就是配置文件的问题，对用户来说是不是都是一样的？ 答： 是的，对用户来说每路对应配置好配置文件即可，不需要关心内部实现，用户一般只需要关心最终数据获取。 问： 代码哪部分是开源的还是哪部分是开源的？ 答：商务问题，请跟对应接口人对接。 问： 通路上latency 数据有么，大概是什么范围 ？ 答： 问：通路上多

FAQ001: OTA分区 问：看slot信息，存储在misc分区，这个是什么分区，如何防止被改动？ 答：（1）这是存储boot 信息的分区，比如A/B状态等信息。（2）misc分区平时是只读的，OTA时可以写入 问：userdata分区在OTA的升级范围内吗？ 答：userdata没有镜像的概念，不在OTA的范围内 问：APP分区只升级部分文件可以吗？ 答：app分区OTA是以镜像的形式，无论整

FAQ001: 源码获取 问：平台的代码有没有公开，比如ota,诊断？ 答：有一部分代码不开放，最终哪些要开放，请联系商务。问：DDS是已经内置在SDK里了吗？有基本应用sample提供吗？ 答：这个没有，我们基础的 BSP 不包含这部分。 FAQ002: 编译架构 问：编译架构怎么和android比较像？ 答：市场上熟悉Android开发环境的开发者比较多，我们在开发环境构建中也借鉴了Andro

近年来，基于深度学习的方法在图像分类、目标检测、实例分割等任务上取得了巨大的成就，这样的成就得益于神经网络模型的深层次结构和庞大的模型参数量。但是，庞大的参数量意味着很难将模型部署到资源受限的边缘设备中，比如智能手机、智能穿戴设备、无人机、机器人、自动驾驶汽车等，这些设备通常对神经网络的执行过程有着严格的时间限制或者在长期执行时对功耗有着严苛的要求。因此，迫切需要优化模型的技术，以减少模型尺寸、实

使用场景及原理 一个op能否运行在BPU上取决于两个条件： 1.该op是否可被BPU支持 2.能否找到该op的量化阈值 对于部分非计算密集op，其量化阈值依赖于上下游op的featuremap Tensor，因此若您在模型首尾处使用了非计算密集op（concat，reshape等），且为了追求极致性能想让该op运行在bpu上，则可通过在该算子前/后插入unitconv，通过unit

1. AI芯片工具链介绍解决在地平线芯片上完成深度神经网络模型的训练、转换以及模型部署问题。地平线量化工具链主要包括两套：量化训练工具链和浮点转定点工具链。AI工具链开发手册：https://developer.horizon.ai/api/v1/fileData/doc/cn/source_doc/x3_ddk_docs.html2. docker环境搭建（linux）Docker（>=1.12

J5系统软件FAQ分类集锦请按分类点击如下链接查看FAQ详情：1. 【J5系统软件FAQ】 - J5 Bringup开发指导2. 【J5系统软件FAQ】 - J5 OTA开发指导3. 【J5系统软件FAQ】 - J5 视频开发指导4. 【J5系统软件FAQ】 - J5 网络模块开发指导（以太网、CAN）图像相关系统软件 问：PYM1是否可以同一个进程内，分时切换online 与 offline？

1.加载天工开物 AI 芯片工具链的 Docker 镜像（大约需要十分钟左右的时间）：.. .... ..可以使用下列命令创建并进入 docker 容器： .. ..工具链的部分补充工具未包含在系统镜像中，这些工具已经放置在 Open Explorer 发布 包中，我们需要在刚刚创建的容器中切换到 ddk/package/board 目录，执行 install 脚本把补 充文件拷贝至开发板。在正式

1 what is QAT？ QAT全称为quantization aware training，是一种模型量化手段，通过在训练过的浮点模型中插入伪量化节点来实现后续的精度fintune，因此QAT相较于PTQ来说往往精度会更高。由于定点数值无法用于反向梯度计算，实际操作过程是在某些op前插入伪量化节点（fake quantization nodes），用于在训练时获取流经该op的数据的截断值或

0 前言 ..本文主要讲解如何基于PC端模拟器仿真推理，下面以最新发布的XJ3的v1.12.7版本包里00-quickstart示例（ddk/samples/ai_toolchain/horizon_runtime_sample/code/00_quick_start）作一个简要说明。主要包括示例包结构说明、环境准备、编译、运行、结果展示五个部分。..1 示例包结构说明..x86仿真示例是在hor

在大型系统的微服务化构建中，一个系统被拆分成了许多模块。这些模块负责不同的功能，组合成系统，最终可以提供丰富的功能。在这种架构中，一次请求往往需要涉及到多个服务。互联网应用构建在不同的软件模块集上，这些软件模块，有可能是由不同的团队开发、可能使用不同的编程语言来实现、有可能布在了几千台服务器，横跨多个不同的数据中心，也就意味着这种架构形式也会存在一些问题：如何快速发现问题？如何判断故障影响范围？如

点击链接：https://developer.horizon.ai/resource.压缩包为地平线工具链板端部署SDK，可以直接下载放在板端Ubuntu系统下进行编译运行，十分方便。.SDK中展示了c++预测库接口的基本用法，一看就会，一跑就通。.系统环境需要安装cmake，请将板子联网，然后执行如下命令：.apt updateapt-get install cmake.期待地平线的板端Ubun

..0 精度验证推荐流程 .[精度调优推荐流程]......流程.验证目的.验证途径.参考代码/其他说明....1.确保导出的浮点onnx的有效性.测试浮点onnx模型的单张结果，应与训练后的模型推理结果完全一致.请参考后文：1.1 验证onnx模型推理结果正确性...2.确保yaml配置文件以及前后处理代码的正确性.测试original_float.onnx模型的单张结果，应与浮点onnx推理结

新版工具链yaml配置文件参数详解.1 引言.目前地平线浮点转换工具链需要依据 yaml 配置文件实现模型转换，而某些参数如果配置有误将会导致最终模型的性能/精度不理想，甚至直接转换失败，本文将针对 yaml 文件中的相关配置项进行说明，作为工具链文档的额外补充。.Note：随着工具链版本迭代，yaml 参数可能会有细微调整，本文以 v1.9.4 版本 MobileNet-v1为例进行说明。..

地平线工具链中已经支持了丰富的算子，在大多数情况下，您的模型应该可以通过使用hb_mapper工具完成转换并顺利部署到地平线芯片上。 少部分算子不支持情况下，我们建议您先尝试下替换算子的可能性，这样有利于将地平线芯片能力充分发挥出来。 自定义算子目前只提供CPU算子开发能力，可自定义onnx算子以及caffe算子。一个完整的自定义算子应用过程包括注册算子、算子实现、含自定义算子模型转换和运行含自定

大家好，我是地平线的海盗旗，今天教程讲述的是商汤算法在地平线开发板的部署。经过长期的使用，相信大家对地平线的开发套件Open_Explorer有了较深理解，现在简单介绍商汤的算法库：OpenMMLab 是一个适用于学术研究和工业应用的开源项目，涵盖了计算机视觉的许多研究课题，如：图像分类、目标检测、目标分割、超分辨率图像生成等。其包含上百个算法源码与与训练模型，广大开发者可以快速使用现有算法实现项

作为在AI行业摸爬滚打3年的资深小白，搜集了一些AI算法常见方案介绍与大家共享。1.空气污染源卫星遥感监测精准管控方案简介2. ADAS感知系统通用方案3.人脸识别人工智能系统的原理与发展4.视频监控系统组成和工作原理5. 智慧城市建设实施方案6. 自然语言处理流程覆盖了图像、视频、自然语言、文本等多个算法模块，期待能够在地平线芯片平台上实现~