使用场景及原理 一个op能否运行在BPU上取决于两个条件： 1.该op是否可被BPU支持 2.能否找到该op的量化阈值 对于部分非计算密集op，其量化阈值依赖于上下游op的featuremap Tensor，因此若您在模型首尾处使用了非计算密集op（concat，reshape等），且为了追求极致性能想让该op运行在bpu上，则可通过在该算子前/后插入unitconv，通过unit

1. AI芯片工具链介绍解决在地平线芯片上完成深度神经网络模型的训练、转换以及模型部署问题。地平线量化工具链主要包括两套：量化训练工具链和浮点转定点工具链。AI工具链开发手册：https://developer.horizon.ai/api/v1/fileData/doc/cn/source_doc/x3_ddk_docs.html2. docker环境搭建（linux）Docker（>=1.12

J5系统软件FAQ分类集锦请按分类点击如下链接查看FAQ详情：1. 【J5系统软件FAQ】 - J5 Bringup开发指导2. 【J5系统软件FAQ】 - J5 OTA开发指导3. 【J5系统软件FAQ】 - J5 视频开发指导4. 【J5系统软件FAQ】 - J5 网络模块开发指导（以太网、CAN）图像相关系统软件 问：PYM1是否可以同一个进程内，分时切换online 与 offline？

1.加载天工开物 AI 芯片工具链的 Docker 镜像（大约需要十分钟左右的时间）：.. .... ..可以使用下列命令创建并进入 docker 容器： .. ..工具链的部分补充工具未包含在系统镜像中，这些工具已经放置在 Open Explorer 发布 包中，我们需要在刚刚创建的容器中切换到 ddk/package/board 目录，执行 install 脚本把补 充文件拷贝至开发板。在正式

1 what is QAT？ QAT全称为quantization aware training，是一种模型量化手段，通过在训练过的浮点模型中插入伪量化节点来实现后续的精度fintune，因此QAT相较于PTQ来说往往精度会更高。由于定点数值无法用于反向梯度计算，实际操作过程是在某些op前插入伪量化节点（fake quantization nodes），用于在训练时获取流经该op的数据的截断值或

0 前言 ..本文主要讲解如何基于PC端模拟器仿真推理，下面以最新发布的XJ3的v1.12.7版本包里00-quickstart示例（ddk/samples/ai_toolchain/horizon_runtime_sample/code/00_quick_start）作一个简要说明。主要包括示例包结构说明、环境准备、编译、运行、结果展示五个部分。..1 示例包结构说明..x86仿真示例是在hor

在大型系统的微服务化构建中，一个系统被拆分成了许多模块。这些模块负责不同的功能，组合成系统，最终可以提供丰富的功能。在这种架构中，一次请求往往需要涉及到多个服务。互联网应用构建在不同的软件模块集上，这些软件模块，有可能是由不同的团队开发、可能使用不同的编程语言来实现、有可能布在了几千台服务器，横跨多个不同的数据中心，也就意味着这种架构形式也会存在一些问题：如何快速发现问题？如何判断故障影响范围？如

点击链接：https://developer.horizon.ai/resource.压缩包为地平线工具链板端部署SDK，可以直接下载放在板端Ubuntu系统下进行编译运行，十分方便。.SDK中展示了c++预测库接口的基本用法，一看就会，一跑就通。.系统环境需要安装cmake，请将板子联网，然后执行如下命令：.apt updateapt-get install cmake.期待地平线的板端Ubun

..0 精度验证推荐流程 .[精度调优推荐流程]......流程.验证目的.验证途径.参考代码/其他说明....1.确保导出的浮点onnx的有效性.测试浮点onnx模型的单张结果，应与训练后的模型推理结果完全一致.请参考后文：1.1 验证onnx模型推理结果正确性...2.确保yaml配置文件以及前后处理代码的正确性.测试original_float.onnx模型的单张结果，应与浮点onnx推理结

新版工具链yaml配置文件参数详解.1 引言.目前地平线浮点转换工具链需要依据 yaml 配置文件实现模型转换，而某些参数如果配置有误将会导致最终模型的性能/精度不理想，甚至直接转换失败，本文将针对 yaml 文件中的相关配置项进行说明，作为工具链文档的额外补充。.Note：随着工具链版本迭代，yaml 参数可能会有细微调整，本文以 v1.9.4 版本 MobileNet-v1为例进行说明。..

地平线工具链中已经支持了丰富的算子，在大多数情况下，您的模型应该可以通过使用hb_mapper工具完成转换并顺利部署到地平线芯片上。 少部分算子不支持情况下，我们建议您先尝试下替换算子的可能性，这样有利于将地平线芯片能力充分发挥出来。 自定义算子目前只提供CPU算子开发能力，可自定义onnx算子以及caffe算子。一个完整的自定义算子应用过程包括注册算子、算子实现、含自定义算子模型转换和运行含自定

大家好，我是地平线的海盗旗，今天教程讲述的是商汤算法在地平线开发板的部署。经过长期的使用，相信大家对地平线的开发套件Open_Explorer有了较深理解，现在简单介绍商汤的算法库：OpenMMLab 是一个适用于学术研究和工业应用的开源项目，涵盖了计算机视觉的许多研究课题，如：图像分类、目标检测、目标分割、超分辨率图像生成等。其包含上百个算法源码与与训练模型，广大开发者可以快速使用现有算法实现项

作为在AI行业摸爬滚打3年的资深小白，搜集了一些AI算法常见方案介绍与大家共享。1.空气污染源卫星遥感监测精准管控方案简介2. ADAS感知系统通用方案3.人脸识别人工智能系统的原理与发展4.视频监控系统组成和工作原理5. 智慧城市建设实施方案6. 自然语言处理流程覆盖了图像、视频、自然语言、文本等多个算法模块，期待能够在地平线芯片平台上实现~

上篇文章简单介绍了如何将pytorch模型转换为onnx格式模型，模型可以通过01_check.sh与03_build.sh检验，这篇文章将介绍使用python对onnx模型推理结果进行后处理，实现可视化结果。模型推理主要调用了mapper中inference.py文件，但目前好像只支持分类与检测任务，做实例分割的话需要重写inference函数。1. main函数：def main():

大家好，我是海盗旗，资深CV工程师（ctrl c + ctrl v），第一次使用国产框架与国产AI芯片（地平线旭日X3）之间实现了全链路开发。本次教程，使用飞桨高阶API训练mobilenet模型，三分钟即可搭建一个网络，进行训练。部署使用地平线的天工开物工具链，模型快速转化上板，极短的时间内可演示demo。欢迎大家一起使用国产化平台进行AI开发与部署！onnx模型是paddle模型与开发板推理部

将mmdetection中的快速实例分割算法yolact转为x3支持的onnx模型安装好最新的mmdetection, mmdet官网有指导教程mmdet提供了yolact算法，需要修改的相关目录如下：Yolact配置文件: configs/yolact/yolact_r50_1x8_coco.py 配置文件中的关注数据处理模块，yolact在推理阶段直接将图片resize到目标尺寸，因此在工具链

请问calibrater中的featuremap类型数据具体是怎么定义的？在开发机上要怎么读取？怎么生成？

工具链1.1.19e。onnx浮点模型转定点耗时分析，从float数据转为定点数据，消耗81ms，而模型真正推理其实只有54ms。从float数据转为定点数据这部分操作是在哪里运行的，猜想应该是下图的HzQuantize操作占用，怎么样才能规避这个问题？name: inputtype: float32[1,512,360,64]模型转换yaml配置：# 模型输入相关参数, 若输入多个节点, 则应使

一. bpu内存以及相关接口 X3开发板中，芯片架构是Bernoulli2，在Bernoulli系列芯片的架构中，BPU和CPU共享同一个memory空间，如下图： 由于BPU需要使用物理空间连续的一块内存，因此runtime库提供专门的接口用来申请bpu内存，该接口返回申请到的memory地址（包括物理地址和虚拟地址），其中bpu虚拟地址可以被CPU直接读写，在后续执行BP

请问能否提类似这样的关键节点和代码中的关键节点数据的对应关系？