在 Rockchip 上部署 Ultralytics YOLO11，实现高效边缘 AI
探索如何使用 RKNN Toolkit 在 Rockchip 上部署 Ultralytics YOLO11，以实现高效的 Edge AI、AI 加速和实时目标检测。
AI 社区近期的一个热门术语是边缘 AI，尤其是在计算机视觉领域。随着 AI 驱动的应用不断发展，人们越来越需要在功耗和计算资源有限的嵌入式设备上高效运行模型。
例如，无人机使用视觉 AI 进行实时导航，智能摄像头即时检测对象，工业自动化系统则无需依赖云计算即可执行质量控制。这些应用需要直接在边缘设备上进行快速、高效的 AI 处理，以确保实时性能和低延迟。然而，在边缘设备上运行 AI 模型并不总是容易。AI 模型通常需要的电力和内存超过许多边缘设备的承载能力。
Rockchip 的 RKNN Toolkit 通过为 Rockchip 驱动的设备优化深度学习模型，帮助解决了这一问题。它利用专用神经处理单元（NPUs）加速推理，与 CPU 或 GPU 处理相比，可降低延迟和功耗。
视觉 AI 社区一直希望在基于 Rockchip 的设备上运行 Ultralytics YOLO11，我们听到了你的需求。我们新增了支持，可将 YOLO11 导出为 RKNN 模型格式。本文将介绍导出为 RKNN 的工作原理，以及为什么在 Rockchip 驱动的设备上部署 YOLO11 会带来突破性改变。
Rockchip 和 RKNN Toolkit 是什么？#
Rockchip 是一家设计片上系统（SoCs）的公司，这些芯片是运行众多嵌入式设备的小型高性能处理器。这些芯片集成了 CPU、GPU 和神经处理单元（NPU），可处理从通用计算任务到依赖对象检测和图像处理的视觉 AI 应用。
Rockchip SoC 广泛用于各种设备，包括单板计算机（SBCs）、开发板、工业 AI 系统和智能摄像头。许多知名硬件制造商，包括 Radxa、ASUS、Pine64、Orange Pi、Odroid、Khadas 和 Banana Pi，都在生产由 Rockchip SoC 驱动的设备。这些开发板在边缘 AI和计算机视觉应用中很受欢迎，因为它们在性能、能效和价格之间实现了良好平衡。
图 1。一台由 Rockchip 驱动的设备示例。
为了帮助 AI 模型在这些设备上高效运行，Rockchip 提供了 RKNN（Rockchip 神经网络）Toolkit。它允许开发者转换和优化深度学习模型，以使用 Rockchip 的神经处理单元（NPUs）。
RKNN 模型针对低延迟推理和高效功耗进行了优化。通过将模型转换为 RKNN，开发者可以在由 Rockchip 驱动的设备上实现更快的处理速度、更低的功耗和更高的效率。
RKNN 模型经过优化#
下面让我们进一步了解 RKNN 模型如何提升支持 Rockchip 的设备上的 AI 性能。
CPU 和 GPU 可以处理广泛的计算任务，而 Rockchip 的 NPU 则专为深度学习而设计。通过将 AI 模型转换为 RKNN 格式，开发者可以直接在 NPU 上运行推理。这使 RKNN 模型特别适用于实时计算机视觉任务，因为这类任务需要快速且高效的处理。
对于 AI 任务，NPU 比 CPU 和 GPU 更快、更高效，因为它们专为并行处理神经网络计算而构建。CPU 一次处理一个步骤，GPU 将工作负载分配到多个核心，而 NPU 则针对更高效地执行 AI 专用计算进行了优化。
因此，RKNN 模型运行速度更快且功耗更低，非常适合电池供电设备、智能摄像头、工业自动化以及其他需要实时决策的边缘 AI 应用。
Ultralytics YOLO 模型概览#
Ultralytics YOLO（只看一次）模型专为实时计算机视觉任务而设计，例如对象检测、实例分割和图像分类。它们以速度快、精度高、效率高而闻名，广泛应用于农业、制造业、医疗保健和自动驾驶系统等行业。
这些模型随着时间推移得到了显著改进。例如，Ultralytics YOLOv5 借助 PyTorch 让对象检测更易于使用。随后，Ultralytics YOLOv8 增加了姿态估计和图像分类等新功能。现在，YOLO11 通过在使用更少资源的同时提高精度，进一步推进了这一发展。事实上，YOLO11m 在 COCO 数据集上的表现优于 YOLOv8m，同时参数量减少了 22%，因此兼具更高的精度和效率。
图 2。使用 Ultralytics YOLO11 检测对象。
Ultralytics YOLO 模型还支持导出为多种格式，从而能够灵活地部署到不同平台。这些格式包括 ONNX、TensorRT、CoreML 和 OpenVINO，让开发者可以根据目标硬件自由优化性能。
新增支持将 YOLO11 导出为 RKNN 模型格式后，YOLO11 现在可以利用 Rockchip 的 NPU。最小的模型 YOLO11n 采用 RKNN 格式时，每张图像的推理时间仅为 99.5ms，即使在嵌入式设备上也能实现实时处理。
将 Ultralytics YOLO11 模型导出为 RKNN 格式#
目前，Ultralytics YOLO11 对象检测模型可以导出为 RKNN 格式。此外，敬请期待——我们正在努力在未来的更新中增加对其他计算机视觉任务和 INT8 量化的支持。
将 Ultralytics YOLO11 导出为 RKNN 格式的过程十分简单。你可以加载自定义训练的 YOLO11 模型，指定目标 Rockchip 平台，并通过几行代码将其转换为 RKNN 格式。RKNN 格式兼容多种 Rockchip SoC，包括 RK3588、RK3566 和 RK3576，确保广泛的硬件支持。
图 3。将 Ultralytics YOLO11 导出为 RKNN 模型格式。
在基于 Rockchip 的设备上部署 Ultralytics YOLO11#
导出后，RKNN 模型即可部署到基于 Rockchip 的设备上。要部署模型，你只需将导出的 RKNN 文件加载到 Rockchip 设备上并运行推理——也就是使用训练好的 AI 模型分析新图像或视频并实时检测对象的过程。只需几行代码，你就可以开始从图像或视频流中识别对象。
图 4。使用导出的 RKNN 模型运行推理。
Ultralytics YOLO11 和 Rockchip 的边缘 AI 应用#
为了更好地了解 Ultralytics YOLO11 在现实中可以部署到哪些支持 Rockchip 的设备上，下面让我们一起看看一些主要的边缘 AI 应用。
Rockchip 处理器广泛应用于基于 Android 的平板电脑、开发板和工业 AI 系统。借助对 Android、Linux 和 Python 的支持，你可以轻松构建并部署由视觉 AI 驱动的解决方案，以服务于各种行业。
集成 Ultralytics YOLO11 的加固型平板电脑#
在由 Rockchip 驱动的设备上运行 Ultralytics YOLO11 的一个常见应用是加固型平板电脑。这类平板电脑经久耐用、性能强劲，专为仓库、建筑工地和工业环境等恶劣场景而设计。这些平板电脑可以利用对象检测来提升效率和安全性。
例如，在仓储物流中，工作人员可以使用搭载 YOLO11 的 Rockchip 平板电脑自动扫描和检测库存，从而减少人为错误并加快处理速度。同样，在建筑工地上，这些平板电脑可以检测工人是否佩戴了规定的安全装备，例如安全帽和安全背心，帮助企业执行法规并预防事故。
图 5。使用 Ultralytics YOLO11 检测安全装备。
用于质量控制的工业 AI#
在制造和自动化领域，由 Rockchip 驱动的工业开发板可以在质量控制和流程监控中发挥重要作用。工业开发板是一种紧凑且高性能的计算模块，专为工业环境中的嵌入式系统而设计。这些开发板通常包括处理器、内存、I/O 接口和连接选项，可与传感器、摄像头和自动化机械集成。
在这些开发板上运行 Ultralytics YOLO11 模型，可以实时分析生产线，即时发现问题并提高效率。例如，在汽车制造中，使用 Rockchip 硬件和 YOLO11 的 AI 系统可以在汽车沿装配线移动时检测划痕、零件错位或漆面缺陷。通过实时识别这些缺陷，制造商可以在车辆交付客户前减少浪费、降低生产成本并确保更高的质量标准。
在基于 Rockchip 的设备上运行 Ultralytics YOLO11 的优势#
基于 Rockchip 的设备在性能、成本和效率之间实现了良好平衡，因此非常适合将 Ultralytics YOLO11 部署到边缘 AI 应用中。
在基于 Rockchip 的设备上运行 Ultralytics YOLO11 有以下几个优势：
- 提升 AI 性能：支持 Rockchip 的设备比基于 CPU 的 Raspberry Pi 等开发板更高效地处理 AI 推理，从而实现更快的对象检测和更低的延迟。
- **经济实惠的解决方案：**如果你正在尝试 AI，并且需要一种价格友好但仍能提供强大性能的选择，Rockchip 是一个很好的方案。它提供了一种经济实惠的方式来运行 Ultralytics YOLO11，同时不会牺牲速度或效率。
- 高能效：在由 Rockchip 驱动的设备上运行计算机视觉模型比使用 GPU 功耗更低，因此非常适合电池供电设备和嵌入式 AI 应用。
要点总结#
Ultralytics YOLO11 可以利用硬件加速和 RKNN 格式，在基于 Rockchip 的设备上高效运行。这可以减少推理时间并提升性能，使其非常适合实时计算机视觉任务和边缘 AI 应用。
RKNN Toolkit 提供量化和微调等关键优化工具，确保 Ultralytics YOLO11 模型在 Rockchip 平台上表现良好。随着边缘 AI 的普及，为高效的设备端处理优化模型将变得至关重要。借助合适的工具和硬件，开发者可以为各个行业的计算机视觉解决方案发掘新的可能性。
加入我们的社区并探索我们的 GitHub 代码仓库，进一步了解 AI。访问我们的解决方案页面，了解农业中的计算机视觉和医疗保健领域的 AI如何推动创新。此外，查看我们的许可选项，立即开始构建你的视觉 AI 解决方案！
