将 Ultralytics YOLO11 模型导出为 NCNN 模型格式

AI 解决方案正变得越来越普遍，甚至在灾害管理、废物管理和消防等高风险领域也是如此。随着应用的不断增长，AI 模型正被部署在更多样化的环境中——不仅在服务器或云端，还直接部署在野外运行的设备上。

例如，由小型处理器驱动并带有边缘组件的无人机和设备可以在灾区发挥关键作用。这些设备配备了热成像相机，可以在现场收集和分析数据，以定位被困在废墟下的人员。这通过计算机视觉得以实现，它是人工智能的一个分支，负责解释来自图像和视频的视觉信息。

然而，在边缘设备上部署视觉 AI 模型并不像看起来那么简单。AI 模型需要经过优化，才能在计算能力和内存有限的硬件上高效运行。这就是为什么像 NCNN 这样的 AI 框架至关重要。它们有助于转换和优化模型，以便在低功耗设备上实现实时性能，同时不牺牲准确性。

特别是，像Ultralytics YOLO11这样的 Ultralytics YOLO 模型可以使用 Ultralytics 支持的 NCNN 集成轻松导出为 NCNN 模型格式。将 YOLO11 转换为 NCNN 模型格式使模型能够运行得更快、消耗更少的内存，并在不同设备上流畅运行而不会损失准确率。

在本文中，我们将探讨 Ultralytics 支持的NCNN 集成，并逐步讲解如何将你的 YOLO11 模型导出为 NCNN 模型格式。我们开始吧！

NCNN 概览：轻量级神经网络框架#

NCNN 是由腾讯开发的一种开源神经网络推理框架。它是专门为移动和边缘环境设计的，以极小的开销实现高性能推理。这使其成为在智能手机、无人机和物联网 (IoT) 设备等资源受限设备上进行部署的理想选择。

NCNN 框架因其高效性、可移植性以及针对移动端 CPU（中央处理器）的优化，在 AI 和深度学习社区中获得了广泛欢迎。它使开发者能够在内存和处理能力有限的平价设备上运行神经网络模型。NCNN 设计简单且灵活，支持广泛的计算机视觉模型，并可在 Android、Linux、iOS 和 macOS 等多个平台上运行。

图 1。NCNN 格式的模型可以部署在多个平台上。

NCNN 性能优化的主要特性#

以下是使 NCNN 成为一个具有影响力且被广泛使用的神经网络推理框架的一些关键特性：

• 轻量级、与硬件无关的运行时： NCNN 框架经过优化，可在标准 CPU 上运行模型，且不需要像 GPU（图形处理器）或 NPU（神经网络处理器）这样的专用硬件。
• 模型量化：对于内存和速度至关重要的应用，NCNN 支持减小模型体积并改善推理时间的量化方法。它有助于在移动和嵌入式设备上流畅运行 AI 模型。
• 开源且易于获取： 作为一种开源框架，任何人都可以免费使用、修改和改进 NCNN。这鼓励了创新并在各种用例中得到了广泛采用。
• 活跃的开发和社区： NCNN 由腾讯和一个不断壮大的开发者社区在 GitHub 上积极维护，并进行定期更新和模型兼容性改进。

将 Ultralytics YOLO11 导出为 NCNN 模型格式：快速指南#

既然我们已经讨论了什么是 NCNN，接下来让我们仔细看看如何将 Ultralytics YOLO11 模型导出为 NCNN 格式。

第 1 步：安装 Ultralytics Python 软件包#

在导出模型之前，第一步是使用包管理器 pip 安装 Ultralytics Python 软件包。这可以通过在终端或命令提示符中运行 "pip install ultralytics" 来完成。如果你在 Jupyter Notebook 或 Google Colab 中工作，请在命令前加上感叹号，像这样：“!pip install ultralytics”.

Ultralytics 软件包提供了用于训练、测试、微调和导出视觉 AI 模型的工具，适用于各种计算机视觉任务。如果你在安装过程中或导出模型时遇到任何问题，官方 Ultralytics 文档和常见问题指南是进行故障排除的绝佳资源。

第 2 步：导出 Ultralytics YOLO11#

安装 Ultralytics 软件包后，你可以加载你的 YOLO11 模型并将其导出为 NCNN 格式。下面的示例使用了一个预训练模型 ("yolo11n.pt") 并将其导出为 NCNN 格式，将输出保存到名为 "/yolo11n_ncnn_model" 的文件夹中。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

导出的 Ultralytics YOLO11 模型随后可以部署在各种轻量级设备上，例如智能手机、嵌入式系统或 IoT 平台。部署过程也非常简化。

例如，看看下面的代码片段，它展示了如何加载导出的模型并运行推理。推理是指使用训练好的模型对新的、未见数据进行预测的过程。在这个例子中，模型是在一张从公开 URL 获取的骑自行车男子的图像上进行测试的。

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

运行代码后，你会在 "runs/detect/predict" 文件夹中找到输出图像。

图 2. 使用导出的 NCNN 格式的 Ultralytics YOLO11 模型进行目标检测。图片由作者提供。

为什么选择使用 NCNN 进行实时检测#

当你探索 Ultralytics 支持的各种集成时，你可能会注意到有几个可用的导出选项。那么，你什么时候应该选择 NCNN 格式呢？

当你需要在资源有限的设备上部署 Ultralytics YOLO11 模型时，NCNN 导出格式是一个可靠的选择。它特别适用于直接在设备上运行的实时应用（如边缘设备），而无需连接云端。这意味着模型可以直接在现场处理目标检测等任务。

以下是 NCNN 非常适合的一些常见场景：

• 移动部署： NCNN 格式针对 Android 和 iOS 进行了优化，使得将模型集成到移动应用中变得容易，从而以最小的延迟实现快速的设备端推理。

• 嵌入式系统和物联网设备： 如果你部署在 Raspberry Pi 或 NVIDIA Jetson 等设备上，导出为 NCNN 可以帮助提升性能和响应速度。

• 桌面和服务器部署： 虽然 NCNN 非常适合低功耗设备，但它也支持桌面和服务器环境下的 Linux、Windows 和 macOS。这为开发者提供了灵活的部署选项。

图 3. 使用 NCNN 部署 Ultralytics YOLO11 模型的选项。图片由作者提供。

使用 NCNN 部署 Ultralytics YOLO11 模型的使用场景#

接下来，让我们深入探讨一些将 Ultralytics YOLO11 模型导出为 NCNN 能够带来真正改变的实际用例。

消防用视觉 AI 头盔#

配备摄像头和嵌入式微型计算机的安全头盔可用于建筑和消防等领域，以提高安全意识。诸如 Ultralytics YOLO11 等实时视觉 AI 模型可以在这些设备上运行，以检测各种类型的人员和设备。例如，此类头盔可以帮助消防人员在能见度低的条件下检测人员、障碍物或隐患。

然而，直接在可穿戴设备上运行全尺寸模型可能会导致性能缓慢并迅速耗尽电量。在这种情况下，使用 NCNN 集成是一个明智的选择。它实现了低延迟、高能效的推理。

废物分类和智能垃圾桶#

同样，智能垃圾桶可以集成相机和紧凑型边缘 AI 处理器，以便在丢弃材料时识别和分类它们。诸如 YOLO11 之类的视觉 AI 模型可以进行自定义训练，以检测不同类型的废弃物材料，如纸张、塑料、橡胶等。

垃圾一旦被识别，就可以根据其可回收性自动分类到不同的隔间中。通过将边缘 AI 与导出的 NCNN 格式的 Ultralytics YOLO11 模型结合使用，这些垃圾桶可以在本地处理数据，而无需连接互联网。这使它们能够自主运行并以极低的延迟做出实时的分类决策。

图 4。使用 YOLO11 检测塑料废弃物材料。

使用无人机和计算机视觉监测牛群#

有时，偏远地区的农业区域缺乏稳定的互联网连接，甚至缺乏持续的电力供应，这限制了它们在线运行 AI 应用的能力。在这种情况下，可以使用边缘设备和无人机来处理各种任务。

一个很好的例子是监测牲畜，例如牛、羊和家禽。这可以使用像 YOLO11 这样的视觉 AI 模型来完成，这些模型可用于追踪动物运动、检测受伤、生病或异常行为的迹象，并在动物走失时向农民发出警报。NCNN 集成还使得直接在边缘设备上运行和处理这些数据成为可能，使其非常适合偏远或离网地区农场中的图像和视频分析。

图 5。一探使用 YOLO11 监测牲畜的方法。

关键要点#

使用 Ultralytics 支持的 NCNN 集成导出 YOLO11 模型，是将视觉 AI 带入低功耗环境的直接方法。无论是灾区的无人机、智能废物分类桶，还是偏远农场的牲畜监测，YOLO 和 NCNN 都实现了快速、高效且可移植的实时 AI 推理。这种方法有助于在最需要的时候使 AI 系统更易于访问和可靠。

想了解更多关于 AI 的信息？探索我们的GitHub 仓库，与我们的社区建立联系，并查看我们的许可选项以启动你的计算机视觉项目。在我们的解决方案页面上了解诸如零售中的 AI和医疗保健中的计算机视觉之类的创新如何塑造未来。