如何使用 Ultralytics Platform 导出 Ultralytics YOLO 模型

上个月，我们发布了 Ultralytics Platform，这是一个旨在简化整个计算机视觉工作流程的统一工作区。它将关键的视觉 AI 功能（包括数据集管理、标注、模型训练、测试、部署和监控）整合到一个精简的界面中。

图 1. Ultralytics Platform 概览 (来源)

作为此端到端工作流程的一部分，部署在将模型从实验阶段推向实际应用的过程中起着至关重要的作用。此前，我们探讨了平台上提供的不同部署选项，包括通过 API 进行共享推理、用于可扩展生产部署的专用端点，以及导出模型以在边缘设备或外部基础设施上运行。

现在，让我们深入了解模型导出及其如何支持跨不同环境的部署。与在 Ultralytics Platform 管理的基础设施内执行模型的共享推理和专用端点不同，模型导出使模型能够部署并运行在边缘设备、移动应用程序和自定义基础设施等外部环境中。

在模型能够于这些环境中运行之前，需要将它们转换为目标运行时支持的格式。每种部署设置都有其自身的要求，从适用于移动和边缘设备的轻量级格式到适用于云和基于 GPU 的系统的高性能格式。

传统上，这个过程可能非常耗时，涉及脚本、依赖项和多种工具。借助 Ultralytics Platform，导出变得简单多了。只需点击几下即可转换和优化模型，无需额外设置。

在本文中，我们将介绍 模型导出 的含义、Ultralytics Platform 支持的格式，以及如何为你的用例选择正确的格式。让我们开始吧！

Link to this section模型导出概述#

导出模型涉及将预训练或自定义训练的模型转换为在其原始框架之外可用的格式。Ultralytics YOLO 模型 是使用 PyTorch 构建并以其原生格式存储的，这非常适合在 PyTorch 生态系统内进行训练、评估和实验。

然而，部署环境通常具有不同的运行时和硬件要求。因此，训练期间使用的格式并不总是适合部署。

例如，移动应用程序可能需要针对低功耗优化的轻量级格式，而基于浏览器的应用则需要一种能在 Web 环境中高效运行的格式。

边缘设备（如摄像头和嵌入式系统）受益于紧凑且快速的模型，而云系统则专为高性能推理而设计。为了支持这些不同的场景，模型需要被导出为兼容的格式。

Link to this section为什么模型导出选项比以往任何时候都更重要#

如今，计算机视觉模型正被部署在离数据生成端更近的地方，尤其是在边缘设备上。智能手机运行实时视觉应用，CCTV 摄像头执行设备端监控，自主系统依赖即时决策。

然而，在这些环境中进行部署伴随着一系列挑战。边缘设备具有有限的计算能力、严格的延迟要求以及在内存和能耗方面的限制。一个在资源充足的情况下训练表现良好的模型，在这些受限条件下可能无法高效运行。

将模型导出为正确的格式有助于解决这些挑战。通过适当地转换模型，可以对其进行速度优化、尺寸压缩，并使其与特定硬件兼容。

同时，导出提供了灵活性。同一个模型可以通过将其转换为基于特定要求的多重格式，从而适配不同的部署环境。

图 2. Ultralytics Platform 内可用的一些导出格式 (来源)

例如，NCNN 模型格式 针对资源使用率较低的移动和边缘设备进行了优化。而 OpenVINO 格式 则专为 Intel 硬件量身定制，并在中央处理器 (CPU)、图形处理器 (GPU) 和神经网络处理器 (NPU) 上提供更好的性能。

在大多数情况下，实现这种灵活性意味着需要处理手动转换、依赖项和多种工具，这使得过程变得耗时且复杂。Ultralytics Platform 通过使模型导出更易于访问和管理，简化了这一工作流程。

Link to this sectionUltralytics Platform 如何简化模型导出#

通常，模型导出被视为计算机视觉工作流程中一个独立且复杂的步骤。Ultralytics Platform 通过将导出模型的选项直接集成到涵盖从训练到部署的所有环节的单一工作区中，改变了这一现状。

其主要优势之一是无需代码的导出体验。无需编写脚本、管理环境或使用特定框架的命令。只需通过直观的界面点击几下，即可导出模型。

图 3. 从 Ultralytics Platform 导出模型的示例 (来源)

在后台，平台处理了繁重的工作。通常需要多种工具和手动设置的任务被精简为一个单一的过程。你无需安装额外的依赖项或处理兼容性问题，这使得从训练好的模型到生产就绪的解决方案变得容易得多。

Link to this sectionUltralytics Platform 支持的模型导出格式#

Ultralytics Platform 支持 17 种导出格式，使得为广泛的部署环境准备模型变得容易，且不会增加复杂性。

以下是一些常用导出格式的概述：

• 跨平台和互操作性： ONNX 和 TorchScript 被广泛用于跨不同框架和环境运行模型。ONNX 充当了生态系统之间的桥梁，使得在工具之间迁移模型变得更容易，而 TorchScript 则实现了无需 Python 运行时即可在生产环境中运行 PyTorch 模型。
• GPU 上的高性能推理： TensorRT 专为 NVIDIA GPU 设计，专注于优化模型以实现低延迟和高吞吐量。它支持精度缩减和层融合等技术来加速推理，使其成为实时和生产规模应用的首选。
• 移动和边缘部署： CoreML、LiteRT (TensorFlow Lite) 和 NCNN 针对计算和内存有限的设备进行了优化。这些格式减小了模型大小并提高了效率，从而在智能手机、嵌入式系统和边缘硬件上实现流畅的性能。CoreML 通常用于 Apple 生态系统，而 LiteRT 在 Android 上很常见。
• 硬件优化执行： OpenVINO 专为 Intel 硬件（包括 CPU、GPU 和 VPU）量身定制，有助于提高这些设备上的推理速度和效率。当你需要从特定系统获得最佳性能时，此类硬件专用格式非常有用。
• 框架特定和专用运行时： PaddlePaddle 和 ExecuTorch 等格式支持特定的生态系统和部署需求，包括在边缘设备上高效运行模型或与特定的深度学习栈集成。

Link to this section如何使用 Ultralytics Platform 导出模型#

在 Ultralytics Platform 上导出模型是一个简单的基于 UI 的过程。整个工作流程通过界面处理，无需脚本或命令行工具。

以下是你如何使用平台导出模型的方法：

• 登录并选择你的模型： 前往你的项目并打开你想要导出的已训练模型。
• 进入 Export 选项卡： 在模型仪表板内，点击 Export 选项卡以查看可用的导出选项。
• 选择导出格式： 根据你的部署需求，选择 ONNX、TensorRT 或 CoreML 等格式。
• 配置导出设置（可选）： 调整图像大小、精度或批次大小等参数以优化性能。
• 开始导出过程： 点击“Start Export”开始该过程。平台会自动处理转换。
• 下载导出的模型： 导出完成后，你可以下载模型并将其用于你的部署管线中。

图 4. 在 Ultralytics Platform 中配置导出设置的预览

Link to this section选择正确的导出格式#

当你探索 Ultralytics Platform 支持的不同导出格式时，你可能会想该选择哪一个。答案确实取决于你打算在哪里以及如何使用你的模型。

这里有几个需要考虑的因素：

• 延迟要求： 对于视频分析或自主系统等实时应用，低延迟至关重要。针对高性能推理优化的格式（如 TensorRT）通常更合适。
• 硬件限制： 内存和处理能力有限的设备（如手机或嵌入式系统）需要像 LiteRT 或 NCNN 这样的轻量级格式。
• 模型大小和能耗： 在使用 边缘设备 时，模型大小和能耗变得很重要。更小、经过优化的模型有助于确保一致的性能，而不会耗尽资源。
• 部署环境： 如果你的模型需要在不同平台上运行，像 ONNX 这样的格式提供了灵活性。对于特定平台的使用场景，如 iOS 应用，CoreML 通常是更好的选择。

没有一种通用的格式。归根结底是在性能、兼容性和目标环境限制之间取得平衡。Ultralytics Platform 通过让你无需额外努力即可尝试和比较不同格式，使这一过程变得更加容易。

Link to this section关键要点#

导出是让你的模型准备好在不同环境中进行实际使用的关键步骤。借助 Ultralytics Platform，这个过程变得简单多了，让你无需额外设置或复杂操作即可转换和优化模型。通过为你的用例选择正确的格式，你可以确保模型在任何部署环境中都能高效运行。

加入我们不断壮大的 社区，并查看我们的 GitHub 仓库 以了解更多关于计算机视觉的内容。探索我们的解决方案页面，以了解更多关于 机器人领域的 AI 和 物流领域的计算机视觉 等应用。发现我们的 许可选项 并开始用视觉 AI 进行构建！