在 Rockchip 上部署 Ultralytics YOLO11，实现高效边缘 AI

AI 社区近期的热门话题之一是边缘 AI，尤其是计算机视觉领域。随着 AI 驱动的应用不断增多，人们越来越需要在功耗和计算资源有限的嵌入式设备上高效运行模型。

例如，无人机使用视觉 AI 进行实时导航，智能摄像头即时检测物体，工业自动化系统则无需依赖云计算即可执行质量控制。这些应用需要直接在边缘设备上快速、高效地处理 AI，以确保实时性能和低延迟。然而，在边缘设备上运行 AI 模型并非易事。AI 模型往往需要的功耗和内存超过许多边缘设备的承受能力。

Rockchip 的 RKNN Toolkit 通过为 Rockchip 设备优化深度学习模型，帮助解决这一问题。它使用专用神经处理单元 (NPUs) 加速推理，与 CPU 或 GPU 处理相比，可降低延迟和功耗。

视觉 AI 社区一直期待在基于 Rockchip 的设备上运行 Ultralytics YOLO11，我们听到了大家的需求。我们已添加对将 YOLO11 导出为 RKNN 模型格式的支持。在本文中，我们将介绍导出为 RKNN 的工作原理，以及为什么在 Rockchip 设备上部署 YOLO11 对边缘 AI 如此有用。

什么是 Rockchip 和 RKNN Toolkit？#

Rockchip 是一家设计片上系统（SoCs）的公司，这类芯片体积小巧、性能强大，可为许多嵌入式设备提供支持。这些芯片集成了 CPU、GPU 和神经网络处理器（NPU），能够处理从通用计算任务到依赖目标检测和图像处理的视觉 AI 应用等各种任务。

Rockchip SoC 用于多种设备，包括单板计算机（SBCs）、开发板、工业 AI 系统和智能摄像头。Radxa、ASUS、Pine64、Orange Pi、Odroid、Khadas 和 Banana Pi 等许多知名硬件制造商都在生产搭载 Rockchip SoC 的设备。这些开发板在边缘 AI和计算机视觉应用中很受欢迎，因为它们在性能、能效和价格之间实现了良好平衡。

图 1. 搭载 Rockchip 的设备示例。

为了帮助 AI 模型在这些设备上高效运行，Rockchip 提供了 RKNN（Rockchip 神经网络）Toolkit。开发者可以使用它转换和优化深度学习模型，以利用 Rockchip 的神经网络处理器（NPUs）。

RKNN 模型针对低延迟推理和高效能耗进行了优化。通过将模型转换为 RKNN，开发者可以在搭载 Rockchip 的设备上实现更快的处理速度、更低的功耗和更高的效率。

RKNN 模型经过优化#

下面来仔细看看 RKNN 模型如何提升 Rockchip 设备上的 AI 性能。

与可处理各种计算任务的 CPU 和 GPU 不同，Rockchip 的 NPU 专为深度学习而设计。通过将 AI 模型转换为 RKNN 格式，开发者可以直接在 NPU 上运行推理。这使 RKNN 模型特别适用于实时计算机视觉任务，因为这类任务需要快速、高效的处理。

对于 AI 任务，NPU 比 CPU 和 GPU 更快、更高效，因为 NPU 专为并行处理神经网络计算而打造。CPU 一次处理一个步骤，GPU 将工作负载分配到多个核心，而 NPU 则针对更高效地执行 AI 专用计算进行了优化。

因此，RKNN 模型运行速度更快、功耗更低，非常适合电池供电设备、智能摄像头、工业自动化，以及其他需要实时决策的边缘 AI 应用。

Ultralytics YOLO 模型概览#

Ultralytics YOLO（只看一次）模型专为目标检测、实例分割和图像分类等实时计算机视觉任务而设计。它们以速度快、精度高、效率高而著称，广泛应用于农业、制造业、医疗健康和自动驾驶系统等行业。

这些模型随着时间推移有了显著改进。例如，Ultralytics YOLOv5 借助 PyTorch 让目标检测更易于使用。随后，Ultralytics YOLOv8 增加了姿势估计等新任务，并将检测、分割、分类和姿势估计整合到一个框架中。如今，YOLO11 更进一步，在减少资源消耗的同时提升了准确率。事实上，YOLO11m 在 COCO 数据集上的表现优于 YOLOv8m，参数量却减少了 22%，因此精度更高、效率也更好。

图 2. 使用 Ultralytics YOLO11 检测物体。

Ultralytics YOLO 模型还支持导出为多种格式，便于灵活部署到不同平台。这些格式包括 ONNX、TensorRT、CoreML 和 OpenVINO，开发者可以根据目标硬件灵活优化性能。

新增对将 YOLO11 导出为 RKNN 模型格式的支持后，YOLO11 现在可以利用 Rockchip 的 NPU。最小的模型 YOLO11n 在 RKNN 格式下每张图像的推理时间为 99.5ms，即使在嵌入式设备上也能实现实时处理。

将 Ultralytics YOLO11 模型导出为 RKNN 格式#

撰写本文时，Ultralytics YOLO11 目标检测模型可以导出为 RKNN 格式。此后，RKNN 导出支持已扩展到所有 Ultralytics 任务和 INT8 量化（quantize=8），具体说明见上方链接的 RKNN 集成指南。

将 Ultralytics YOLO11 导出为 RKNN 格式非常简单。你可以加载定制训练的 YOLO11 模型，指定目标 Rockchip 平台，并通过几行代码将其转换为 RKNN 格式。RKNN 格式兼容多种 Rockchip SoC，包括 RK3588、RK3566 和 RK3576，确保广泛的硬件支持。

图 3. 将 Ultralytics YOLO11 导出为 RKNN 模型格式。

在基于 Rockchip 的设备上部署 Ultralytics YOLO11#

导出后，RKNN 模型即可部署到基于 Rockchip 的设备上。部署模型时，只需将导出的 RKNN 文件加载到 Rockchip 设备上并运行推理——也就是使用训练好的 AI 模型分析新图像或视频并实时检测物体。只需几行代码，你就可以开始识别图像或视频流中的物体。

图 4. 使用导出的 RKNN 模型运行推理。

Ultralytics YOLO11 与 Rockchip 的边缘 AI 应用#

为了更好地了解 Ultralytics YOLO11 在现实中可以部署到哪些 Rockchip 设备上，下面介绍一些重要的边缘 AI 应用。

Rockchip 处理器广泛应用于基于 Android 的平板电脑、开发板和工业 AI 系统。借助对 Android、Linux 和 Python 的支持，你可以轻松构建并部署由视觉 AI 驱动的解决方案，服务于各类行业。

集成 Ultralytics YOLO11 的加固型平板电脑#

在搭载 Rockchip 的设备上运行 Ultralytics YOLO11 的常见应用之一是加固型平板电脑。这类平板电脑经久耐用、性能强劲，专为仓库、建筑工地和工业环境等严苛场景设计。借助目标检测，这些平板电脑可以提高效率和安全性。

例如，在仓储物流中，工作人员可以使用搭载 Rockchip 的平板电脑和 YOLO11 自动扫描并检测库存，从而减少人为错误并加快处理速度。同样，在建筑工地上，这些平板电脑可用于检测工人是否穿戴了规定的安全装备，例如头盔和背心，帮助企业落实法规并预防事故。

图 5. 使用 Ultralytics YOLO11 检测安全装备。

用于质量控制的工业 AI#

在制造和自动化领域，搭载 Rockchip 的工业开发板可在质量控制和流程监控中发挥重要作用。工业开发板是一种紧凑、高性能的计算模块，专为工业环境中的嵌入式系统设计。这些开发板通常配备处理器、内存、I/O 接口和连接选项，可与传感器、摄像头及自动化机械集成。

在这些开发板上运行 Ultralytics YOLO11 模型，可以实时分析生产线，及时发现问题并提升效率。例如，在汽车制造中，使用 Rockchip 硬件和 YOLO11 的 AI 系统可以在汽车沿装配线移动时检测划痕、部件错位或喷漆缺陷。通过实时识别这些缺陷，制造商可以减少浪费、降低生产成本，并确保车辆交付客户前符合更高的质量标准。

在基于 Rockchip 的设备上运行 Ultralytics YOLO11 的优势#

基于 Rockchip 的设备在性能、成本和效率之间实现了良好平衡，因此非常适合在边缘 AI 应用中部署 Ultralytics YOLO11。

以下是在基于 Rockchip 的设备上运行 Ultralytics YOLO11 的一些优势：

• 提升 AI 性能：与 Raspberry Pi 等基于 CPU 的开发板相比，搭载 Rockchip 的设备能够更高效地执行 AI 推理，带来更快的目标检测速度和更低的延迟。
• 经济实惠的解决方案： 如果你正在尝试使用 AI，并需要价格亲民但性能强劲的方案，Rockchip 是个不错的选择。它让你能够以较低成本运行 Ultralytics YOLO11，同时不牺牲速度或效率。
• 能效： 与 GPU 相比，在搭载 Rockchip 的设备上运行计算机视觉模型功耗更低，因此非常适合电池供电设备和嵌入式 AI 应用。

要点#

Ultralytics YOLO11 可以利用硬件加速和 RKNN 格式，在基于 Rockchip 的设备上高效运行。这能缩短推理时间并提升性能，使其非常适合实时计算机视觉任务和边缘 AI 应用。

RKNN Toolkit 提供量化等关键优化工具，确保 Ultralytics YOLO11 模型在 Rockchip 平台上表现良好。随着边缘 AI 的普及，为模型优化高效的设备端处理能力将至关重要。借助合适的工具和硬件，开发者能够在各行业的计算机视觉解决方案中释放新的可能性。

加入我们的社区，并浏览我们的 GitHub 代码库，进一步了解 AI。访问解决方案页面，看看农业中的计算机视觉和医疗健康领域的 AI如何推动创新。此外，查看我们的许可选项，立即开始构建视觉 AI 解决方案！