如何使用 Ultralytics Platform 导出 Ultralytics YOLO 模型

上个月，我们推出了 Ultralytics Platform，这是一个旨在简化整个计算机视觉工作流的统一工作区。它将数据集管理、标注、模型训练、测试、部署和监控等关键视觉 AI 功能整合到一个简洁流畅的界面中。

图 1. Ultralytics Platform 一瞥（来源）

作为这一端到端工作流的一部分，部署在将模型从实验阶段推向实际应用的过程中发挥着关键作用。此前，我们探讨了平台提供的不同部署选项，包括通过 API 进行共享推理、用于可扩展生产部署的专用端点，以及导出模型以便在边缘设备或外部基础设施上运行。

现在，让我们深入了解模型导出，以及它如何支持在不同环境中进行部署。与在 Ultralytics Platform 管理的基础设施中执行模型的共享推理和专用端点不同，模型导出支持将模型部署并运行在边缘设备、移动应用和自定义基础设施等外部环境中。

在模型能够于这些环境中运行之前，需要将其转换为目标运行时支持的格式。每种部署设置都有自己的要求，从适用于移动设备和边缘设备的轻量级格式，到适用于云端和 GPU 系统的高性能格式。

传统上，这一过程可能非常耗时，需要使用脚本、依赖项和多个工具。借助 Ultralytics Platform，导出过程变得简单得多。无需额外设置，只需点击几下即可完成模型转换和优化。

本文将介绍模型导出的含义、Ultralytics Platform 支持的格式，以及如何为你的使用场景选择合适的格式。让我们开始吧！

模型导出概览#

模型导出是指将预训练模型或自定义训练的模型转换为可在其原始框架之外使用的格式。Ultralytics YOLO 模型使用 PyTorch 构建，并以其原生格式存储，非常适合在 PyTorch 生态系统中进行训练、评估和实验。

但是，部署环境通常具有不同的运行时和硬件要求。因此，训练期间使用的格式并不总是适合部署。

例如，移动应用可能需要针对低功耗进行优化的轻量级格式，而基于浏览器的应用则需要能够在 Web 环境中高效运行的格式。

摄像头和嵌入式系统等边缘设备受益于紧凑且快速的模型，而云系统则是为高性能推理而设计的。为了支持这些不同场景，需要将模型导出为兼容的格式。

模型导出选项为何比以往更加重要#

如今，计算机视觉模型正被部署到更接近数据生成位置的地方，尤其是在边缘设备上。智能手机运行实时视觉应用，CCTV 摄像头执行设备端监控，而自主系统依赖即时决策。

但是，在这些环境中部署也带来了一系列挑战。边缘设备的计算能力有限，对延迟有严格要求，并且受到内存和能耗的限制。在资源充足的训练环境中表现良好的模型，在这些受限条件下可能无法高效运行。

将模型导出为合适的格式有助于应对这些挑战。通过适当转换模型，可以针对速度进行优化、减小模型大小，并使其兼容特定硬件。

与此同时，导出也提供了灵活性。根据具体要求将同一个模型转换为多种格式，即可使其适应不同的部署环境。

图 2. Ultralytics Platform 中提供的部分导出格式（来源）

例如，NCNN 模型格式针对低资源使用场景下的移动设备和边缘设备进行了优化。而 OpenVINO 格式则专为 Intel 硬件打造，可在中央处理器 (CPUs)、图形处理器 (GPUs) 和神经处理器 (NPUs) 上提供更佳性能。

在大多数情况下，要实现这种灵活性，就意味着需要处理手动转换、依赖项和多个工具，使整个过程耗时且复杂。Ultralytics Platform 让模型导出更加易于使用和管理，从而简化了这一工作流。

Ultralytics Platform 如何简化模型导出#

通常，模型导出被视为计算机视觉工作流中一个独立且复杂的步骤。Ultralytics Platform 通过将模型导出选项直接集成到一个涵盖训练到部署全过程的统一工作区中，改变了这一点。

它的主要优势之一是无代码导出体验。你无需编写脚本、管理环境或使用特定于框架的命令。通过简洁直观的界面，只需点击几下即可导出模型。

图 3. 从 Ultralytics Platform 导出模型示例（来源）

在后台，平台会处理繁重的工作。通常需要多个工具和手动设置的任务，被简化为一个统一流程。你无需安装额外依赖项，也不用处理兼容性问题，因此可以更加轻松地将训练好的模型转变为可用于生产的解决方案。

Ultralytics Platform 支持的模型导出格式#

Ultralytics Platform 支持 17 种导出格式，让你无需增加复杂性即可为各种部署环境准备模型。

以下是一些常用导出格式的概览：

• 跨平台和互操作性： ONNX 和 TorchScript 广泛用于在不同框架和环境中运行模型。ONNX 充当生态系统之间的桥梁，让模型更容易在不同工具之间迁移；而 TorchScript 支持在生产环境中运行 PyTorch 模型，无需 Python 运行时。
• GPU 上的高性能推理： TensorRT 专为 NVIDIA GPU 设计，重点是优化模型以实现低延迟和高吞吐量。它支持精度降低和层融合等技术来加速推理，因此非常适合实时应用和大规模生产应用。
• 移动端和边缘部署： CoreML、LiteRT (TensorFlow Lite) 和 NCNN 针对计算能力和内存有限的设备进行了优化。这些格式可以减小模型大小并提升效率，从而在智能手机、嵌入式系统和边缘硬件上实现流畅运行。CoreML 通常用于 Apple 生态系统，而 LiteRT 常用于 Android。
• 硬件优化执行： OpenVINO 针对包括 CPU、GPU 和 VPU 在内的 Intel 硬件进行了优化，有助于提升这些设备上的推理速度和效率。当你需要充分发挥特定系统的性能时，这类硬件专用格式非常有用。
• 特定框架和专用运行时： PaddlePaddle 和 ExecuTorch 等格式支持特定生态系统和部署需求，包括在边缘设备上高效运行模型，或与特定深度学习技术栈集成。

如何使用 Ultralytics Platform 导出模型#

在 Ultralytics Platform 上导出模型是一个简单的基于 UI 的过程。整个工作流都通过界面完成，无需使用脚本或命令行工具。

以下是使用该平台导出模型的方法：

• 登录并选择模型： 转到你的项目，打开要导出的训练模型。
• 转到 Export 选项卡：在模型控制面板中，点击 Export 选项卡以查看可用的导出选项。
• 选择导出格式：根据你的部署需求选择 ONNX、TensorRT 或 CoreML 等格式。
• 配置导出设置（可选）： 调整图像大小、精度或批量大小等参数，以优化性能。
• 开始导出过程：点击“Start Export”开始导出。平台会自动处理转换。
• 下载导出的模型：导出完成后，你可以下载模型并在部署流水线中使用。

图 4. 在 Ultralytics Platform 中配置导出设置

选择合适的导出格式#

在了解 Ultralytics Platform 支持的不同导出格式时，你可能会想知道应该选择哪一种。答案实际上取决于你计划在哪里以及如何使用模型。

以下是需要考虑的几个因素：

• 延迟要求：对于视频分析或自主系统等实时应用，低延迟至关重要。针对高性能推理优化的格式（例如 TensorRT）通常更适合。
• 硬件限制：内存和处理能力有限的设备（例如手机或嵌入式系统）需要 LiteRT 或 NCNN 等轻量级格式。
• 模型大小和能耗：使用边缘设备时，模型大小和能耗变得十分重要。更小且经过优化的模型有助于确保稳定的性能，同时避免过度消耗资源。
• 部署环境： 如果你的模型需要跨不同平台运行，ONNX 等格式可以提供灵活性。对于 iOS 应用等特定平台的使用场景，CoreML 通常是更好的选择。

不存在适用于所有情况的单一格式。这最终取决于如何在性能、兼容性和目标环境的限制之间取得平衡。Ultralytics Platform 让这一过程更加简单，你可以轻松尝试和比较不同格式。

要点总结#

导出是让模型准备好在不同环境中实际使用的重要步骤。借助 Ultralytics Platform，这一过程变得简单得多，你可以在无需额外设置或复杂操作的情况下转换和优化模型。为使用场景选择合适的格式，就能确保模型在部署到任何环境时都能高效运行。

加入不断发展的社区，并查看我们的 GitHub 仓库，进一步了解计算机视觉。探索我们的解决方案页面，详细了解机器人领域的 AI和物流领域的计算机视觉等应用。了解我们的许可选项，开始使用视觉 AI 构建应用！