使用 MNN 集成无缝部署 Ultralytics YOLO11

如今，AI 创新已超越了远程服务器环境。AI 解决方案正被集成到诸如传感器和智能手机等边缘设备中。得益于这一技术转变，数据现在可以在其生成的地方直接进行处理，从而实现更快的响应、更高的隐私性，并减少对持续云连接的依赖。

因此，边缘 AI 正在许多行业中获得发展。随着越来越多的系统转向更快速、更本地化的处理方式，边缘 AI 软件市场预计到 2031 年将达到 88.8 亿美元。

特别是计算机视觉，作为 AI 中专注于理解图像和视频的一个分支，正迅速在边缘侧得到应用。从在食品包装时进行计数，到帮助车辆检测行人，计算机视觉支持着跨部门的无数实际应用。

这一切通过计算机视觉模型成为可能。例如，Ultralytics YOLO11 是一款支持多种视觉 AI 任务的模型，如目标检测、实例分割、目标跟踪和姿态估计。它被设计为快速且高效，并且在硬件资源受限的设备上表现良好。

图 1. 使用 YOLO11 检测并追踪正在打包的食品（来源）。

除了适用于边缘部署之外，通过 Ultralytics 支持的各种集成，YOLO11 可以导出为适用于不同硬件环境的多种格式。

最高效的选项之一是 MNN (Mobile Neural Network)，这是一个专为低资源设备设计的轻量级推理引擎。将 YOLO11 导出为 MNN 格式，使其能够直接在手机、嵌入式系统和其他需要快速端侧处理的边缘平台上运行。

在本文中，我们将探讨 MNN 集成的工作原理，重点介绍常见用例，并逐步引导你如何开始使用导出的 YOLO11 模型运行推理。让我们开始吧！

Link to this sectionMNN 概述：一个深度学习框架#

在手机、工业传感器和便携式系统等较小的设备上运行计算机视觉模型并不总是那么简单。这些设备通常内存有限、处理器较慢，并且有严格的功耗限制。

移动神经网络（Mobile Neural Network，简称 MNN）是由阿里巴巴开发的一种轻量级、高性能推理引擎，旨在使 AI 模型在低资源硬件上高效运行，同时保持实时性能。MNN 支持广泛的平台，包括 Android、iOS 和 Linux，并适用于中央处理器 (CPU) 和图形处理器 (GPU) 等多种硬件类型。

图 2. MNN 框架概览（来源）。

Ultralytics 支持的 MNN 集成使得将 YOLO11 模型轻松导出为 MNN 格式成为可能。简而言之，这意味着模型可以从 YOLO 格式转换为 MNN。

转换完成后，它们可以部署在支持 MNN 框架的设备上，进行高效的端侧推理。使用 MNN 格式的一个关键好处是，它简化了在尺寸、速度和资源效率至关重要的场景中部署 YOLO11 的过程。

Link to this sectionMNN 推理后端的关键特性#

在深入了解如何使用 MNN 集成之前，让我们先看看是什么让 MNN 框架成为在实际设备上运行 AI 模型的绝佳选择。它专为应对边缘环境的独特约束而构建，同时仍能提供快速且可靠的性能。

有趣的是，MNN 在阿里巴巴内部被用于 30 多种应用中，包括淘宝、天猫、优酷、钉钉和闲鱼，涵盖了直播视频、短内容、图像搜索和端侧安全检查等多种场景。它支持大规模部署，并在生产环境中每天运行数百万次推理。

以下是 MNN 框架的一些关键特性：

• 后端自动选择： MNN 可以根据其运行的硬件自动选择最合适的执行后端，例如 CPU 或 GPU。
• 多线程执行：它支持多线程，使其能够充分利用多核处理器来提高推理速度。
• 支持模型量化： 它使你能够使用 FP16 或 INT8 量化显著减小模型尺寸，从而在占用更少内存的同时提高推理速度。
• 轻量且快速： MNN 占用空间极小，核心库在 Android 上约为 400 KB，在 iOS 上约为 5 MB，这使其成为移动和嵌入式设备的理想选择。

Link to this section了解 MNN 集成的工作原理#

接下来，让我们逐步了解如何将 YOLO11 模型导出为 MNN 格式。

第一步是安装 Ultralytics Python 包，它提供了将 YOLO11 模型导出为 MNN 格式所需的一切。你可以通过在终端运行 "pip install ultralytics" 或使用命令提示符来完成此操作。如果你正在使用 Jupyter Notebook 或 Google Colab，请在命令前添加一个感叹号。

如果在安装过程中遇到任何问题，请参考常见问题指南以获取故障排除建议。

环境设置完成后，你可以加载一个预训练的 YOLO11 模型（如 "yolo11n.pt"），并按如下代码片段所示将其导出为 MNN 格式。如果你已经训练了自己的自定义 YOLO11 模型，只需将文件名替换为你的模型路径即可导出。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

将模型转换为 MNN 后，你可以根据应用需求将其用于不同的移动和嵌入式平台。

例如，假设你想在一段交通视频上测试导出的模型。在这种情况下，你可以加载 MNN 格式的 YOLO11 模型，直接在设备上检测车辆、行人及交通标志等目标，如下面的示例所示。

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

推理完成后，包含检测目标的输出视频将自动保存在 'runs/detect/predict' 文件夹中。此外，如果你想直接使用 MNN Python 包运行推理，可以查看官方的 Ultralytics 文档获取更多详细信息和示例。

图 3. 使用导出为 MNN 格式的 YOLO11 模型进行交通分析。图片作者。

Link to this section由 YOLO11 和 MNN 赋能的边缘 AI 模型部署用例#

在云端处理不切实际或无法实现的环境中，通过 MNN 部署 YOLO11 可以实现快速、高效的计算机视觉任务，例如目标检测。让我们看看这种集成如何在实际场景中发挥巨大作用。

Link to this section用于植物病害识别的移动边缘 AI#

使用图像分类的植物病害识别应用在园艺爱好者、研究人员和自然探索者中越来越受欢迎。用户只需一张照片，就能快速识别病害的早期迹象，如叶斑或变色。由于这些应用通常在网络连接可能受限或无法连接的户外区域使用，依赖云端处理可能会不稳定。

训练完成后，YOLO11 模型可以导出为 MNN 格式，并直接在移动设备上运行。随后，该模型可以在本地对植物种类进行分类并检测可见的病害症状，而无需将任何数据发送到服务器。

图 4. 使用 YOLO11 检测叶片上锈病（一种植物病害）迹象的示例（来源）。

Link to this section制造业中高效的端侧推理#

在制造业设施繁忙的生产线上，准确的包裹跟踪至关重要。YOLO11 可用于跟踪和清点通过关键检查点的每一件物品，实时更新计数并标记任何差异。这有助于减少漏发或未计数的货运，并支持更顺畅、更可靠的运营。

图 5. 使用 YOLO11 跟踪和清点包裹（来源）。

MNN 集成在此背景下尤为有效。一旦 YOLO11 模型被导出为 MNN 格式，它就可以直接在安装在传送带旁的紧凑型低功耗设备上运行。

由于所有处理都在本地完成，系统可以提供即时反馈，且不需要任何网络连接。这确保了工厂车间能够实现快速、可靠的性能，在保持高效生产的同时，确保了高精度和可控性。

Link to this section将 YOLO11 导出为 MNN 模型格式的优势#

以下是 Ultralytics 提供的 MNN 集成的一些主要优势：

• 更快的响应时间： 由于推理在设备上运行，预测能够以极低的延迟实时完成。
• 改善的数据隐私：数据保留在设备上，减少了将敏感图像或视频发送到云端的必要。
• 开源且持续维护： 得益于阿里巴巴的支持及活跃社区的贡献，MNN 可靠且会定期更新以实现性能提升。

Link to this section使用 MNN 框架时需要考虑的因素#

在选择 MNN 作为你的部署框架之前，评估它是否符合项目的需求、部署目标及技术限制也很重要。以下是一些关键考虑因素：

• 持续兼容性： 框架更新或目标平台的变更可能需要进行重新测试或调整，以确保一切顺利运行。
• 调试工具较少： 与大型框架相比，MNN 在调试和检查模型行为方面的工具较为有限，这可能会增加故障排除的难度。
• 性能取决于硬件： 模型的速度和效率将因设备而异。请测试你的目标硬件，以确保它能满足你的性能目标。

Link to this section关键要点#

Ultralytics 对 MNN 集成的支持使得导出 YOLO11 模型以供移动和嵌入式设备使用变得轻而易举。对于那些需要快速、可靠的检测且不依赖云端访问或持续网络连接的应用来说，这是一个务实的选项。

这种设置有助于简化部署，同时保持性能并降低资源需求。无论你是在构建智能家居系统、现场工具还是紧凑型工业设备，将 YOLO11 导出为 MNN 都提供了一种灵活且高效的方式，可以直接在边缘设备上运行计算机视觉任务。

加入我们日益壮大的社区！探索我们的 GitHub 仓库以深入了解 AI。准备好开始你的计算机视觉项目了吗？请查看我们的许可选项。在我们的解决方案页面上发现更多关于医疗保健 AI 和零售计算机视觉的信息！