集成

使用 OpenVINO™ 无缝部署 Ultralytics YOLO11

了解如何将 Ultralytics YOLO11 导出为 OpenVINO™ 格式，以在 Intel® 硬件上实现超快推理，从而增强速度、可扩展性和准确性。

ABAbirami Vina5 min readJuly 1, 2025

AI 的普及取决于 AI 解决方案的可访问性，而其中至关重要的一点是让它们能够轻松部署在人们现有的硬件上。在 GPU（图形处理单元）上运行 AI 模型在性能和并行处理能力方面是一个极佳的选择。

然而，现实情况并非每个人都能使用高端 GPU，尤其是在边缘环境或日常笔记本电脑上。因此，优化模型以在更普及的硬件（如中央处理单元 (CPU)、集成 GPU 和神经处理单元 (NPU)）上高效运行显得尤为重要。

计算机视觉就是一个例子，它是人工智能的一个分支，使机器能够实时分析和理解图像与视频流。诸如 Ultralytics YOLO11 的视觉 AI 模型支持诸如目标检测和实例分割等核心任务，从而为从零售分析到医疗诊断等各种应用提供支持。

Ultralytics YOLO11 detecting and segmenting objects in a retail store

图 1. 使用 Ultralytics YOLO11 在零售店中检测和分割对象。

为了让计算机视觉更加普及，Ultralytics 发布了与 OpenVINO 工具包的更新集成，这是一个用于在 CPU、GPU 和 NPU 上优化和运行 AI 推理的开源项目。

通过此集成，导出和部署 YOLO11 模型变得更加容易，在 CPU 上的推理速度最高可提升 3 倍，并在 Intel GPU 和 NPU 上实现加速性能。在本文中，我们将带你了解如何使用 Ultralytics Python package 将 YOLO11 模型导出为 OpenVINO 格式并将其用于推理。我们开始吧！

Ultralytics YOLO11 概览#

在深入了解 Ultralytics 所支持的 OpenVINO 集成细节之前，让我们仔细看看是什么让 YOLO11 成为一个可靠且具有影响力的计算机视觉模型。YOLO11 是 Ultralytics YOLO 系列中的最新模型，在速度和准确性方面均有显著提升。

其主要亮点之一是高效性。例如，Ultralytics YOLO11m 的参数比 Ultralytics YOLOv8m 少 22%，但在 COCO 数据集上却达到了更高的平均精度均值 (mAP)。这意味着它运行速度更快，检测物体也更准确，非常适合性能和响应速度至关重要的实时应用。

Ultralytics YOLO11 performance benchmarks

图 2. Ultralytics YOLO11 的性能基准测试。

除了目标检测之外，YOLO11 还支持各种高级计算机视觉任务，例如实例分割、姿态估计、图像分类、对象跟踪和定向边界框检测。YOLO11 对开发者也非常友好，Ultralytics Python package 提供了一个简单且一致的接口，用于训练、评估和部署模型。

除此之外，Ultralytics Python package 还支持各种集成和多种导出格式（包括 OpenVINO、ONNX、TorchScript），让你能够轻松将 YOLO11 集成到各种部署管道中。无论你的目标是云基础设施、边缘设备还是嵌入式系统，导出过程都非常简单直观，并且能够适应你的硬件需求。

什么是 OpenVINO™？#

OpenVINO™ (Open Visual Inference and Neural Network Optimization) 是一个用于在广泛硬件上优化和部署 AI 推理的开源工具包。它使开发者能够跨各种 Intel 平台（包括 CPU、集成 GPU 和独立 GPU、NPU 以及现场可编程门阵列 (FPGA)）高效运行高性能推理应用。

OpenVINO 提供了一个统一的运行时接口，通过特定于设备的插件来抽象化硬件差异。这意味着开发者可以编写一次代码，并通过一致的 API 部署到多个 Intel 硬件目标上。

以下是一些使 OpenVINO 成为部署理想选择的关键特性：

模型转换器：此工具可转换并准备来自 PyTorch、ONNX、TensorFlow、PaddlePaddle 等热门框架的模型，以便针对 Intel 硬件上的高效推理进行优化。
异构执行：你无需为不同的 Intel 硬件重写代码。OpenVINO 可以轻松地在任何受支持的硬件上运行同一个模型，从 CPU 到 GPU 均可。
量化支持：该工具包支持低精度格式，如 FP16（默认）和 INT8，这有助于在不显著影响准确性的前提下减小模型尺寸并加快推理速度。

OpenVINO enabling diverse deployment options across hardware

图 3. OpenVINO 实现了多样化的部署选项。

探索 Ultralytics x OpenVINO 集成#

既然我们已经探讨了什么是 OpenVINO 及其重要性，接下来我们来讨论如何将 Ultralytics YOLO11 模型导出为 OpenVINO 格式，并在 Intel 硬件上运行高效推理。

第 1 步：安装 Ultralytics Python 软件包#

要将模型导出为 OpenVINO 格式，你需要首先安装 Ultralytics Python package。此包提供训练、评估和导出 YOLO 模型（包括 YOLO11）所需的一切功能。

你可以通过在终端或命令提示符中运行命令“pip install ultralytics”来安装它。如果你在 Jupyter Notebook 或 Google Colab 等交互式环境中使用，只需在该命令前加一个感叹号即可。

此外，如果在安装或导出过程中遇到任何问题，Ultralytics 文档和故障排除指南是帮助你重回正轨的绝佳资源。

第 2 步：将你的 Ultralytics YOLO11 模型导出为 OpenVINO 格式#

一旦安装好 Ultralytics 软件包，下一步就是加载你的 YOLO11 模型并将其转换为与 OpenVINO 兼容的格式。

在下方的示例中，我们使用预训练的 YOLO11 模型 (“yolo11n.pt”)。导出功能用于将其转换为 OpenVINO 格式。运行此代码后，转换后的模型将保存在名为 “yolo11n_openvino_model” 的新目录中。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="openvino")

第 3 步：使用导出的模型运行推理#

将 YOLO11 模型导出为 OpenVINO 格式后，你可以通过两种方式运行推理：使用 Ultralytics Python 软件包或原生 OpenVINO Runtime。

使用 Ultralytics Python 软件包#

导出的 YOLO11 模型可以使用 Ultralytics Python 软件包轻松部署，如下面的代码片段所示。此方法非常适合在 Intel 硬件上进行快速实验和简化部署。

你还可以根据系统中可用的 Intel 硬件，指定用于推理的设备，例如 “intel:cpu”、“intel:gpu” 或 “intel:npu”。

ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

运行上述代码后，输出图像将保存在 “runs/detect/predict” 目录中。

Exported Ultralytics YOLO11 model detecting objects in an image

图 4. 使用导出的 Ultralytics YOLO11 模型在图像中检测物体。

使用原生 OpenVINO Runtime#

如果你正在寻找一种可自定义的推理运行方式，特别是在生产环境中，OpenVINO Runtime 可以让你更精细地控制模型的执行方式。它支持高级功能，例如异步执行（并行运行多个推理请求）和负载均衡（高效地在 Intel 硬件上分配推理工作负载）。

要使用原生 Runtime，你需要导出的模型文件：一个 .xml 文件（定义网络架构）和一个 .bin 文件（存储模型的训练权重）。你还可以根据应用需求配置额外参数，如输入维度或预处理步骤。

典型的部署流程包括初始化 OpenVINO 核心、加载和编译目标设备的模型、准备输入以及执行推理。有关详细示例和分步指导，请参考官方 Ultralytics OpenVINO 文档。

为什么选择 Ultralytics x OpenVINO 集成？#

在探索 Ultralytics 集成时，你会注意到 Ultralytics Python 软件包支持将 YOLO11 模型导出为多种格式，例如 TorchScript、CoreML、TensorRT 和 ONNX。那么，为什么选择 OpenVINO 集成呢？

以下是 OpenVINO 导出格式非常适合在 Intel 硬件上部署模型的几个原因：

**性能提升：**在 Intel CPU 上，你可以体验到最高快 3 倍的推理速度，并且在集成 GPU 和 NPU 上还可以获得额外的加速。
无需重新训练：你可以直接将现有的 Ultralytics YOLO11 模型导出为 OpenVINO 格式，无需修改或重新训练。
为规模化构建：同一个导出的模型可以部署在低功耗边缘设备和大规模云基础设施之间，从而简化可扩展的 AI 部署。

你还可以在 OpenVINO™ Model Hub 上评估 Ultralytics YOLO11 模型在各种 Intel® 平台上的性能基准。OpenVINO Model Hub 是供开发者在 Intel 硬件上评估 AI 模型并发现 OpenVINO 在 Intel CPU、集成 GPU、NPU 和独立显卡上的性能优势的资源。

OpenVINO Model Hub Ultralytics YOLO11 benchmarks across Intel platforms

图 5. OpenVINO™ Model Hub：Ultralytics YOLO11 模型在一系列 Intel® 平台上的性能基准测试。

Ultralytics YOLO11 与 OpenVINO 导出格式的应用#

借助 OpenVINO 集成，在现实场景中的 Intel 硬件上部署 Ultralytics YOLO11 模型变得更加简单。

一个很好的例子是智能零售，Ultralytics YOLO11 可以帮助实时检测空货架、跟踪库存不足的产品并分析客户在店内的动线。这使零售商能够改善库存管理并优化店铺布局，以提升购物体验。

同样，在智慧城市中，YOLO11 可用于通过实时计算车辆、跟踪行人和检测闯红灯违章来监控交通。这些见解可以支持交通流优化、提高道路安全并协助自动化执法系统。

Counting vehicles in traffic using Ultralytics YOLO11

图 6. 使用 YOLO11 计算车辆。

另一个有趣的用例是工业检测，Ultralytics YOLO11 可以部署在生产线上，自动检测漏件、错位或表面损伤等外观缺陷。这可以提高效率、降低成本并支持更好的产品质量。

使用 OpenVINO 工具包时需要考虑的关键因素#

在使用 OpenVINO 部署 Ultralytics YOLO11 模型时，以下是一些需要牢记以获得最佳结果的重要事项：

检查硬件兼容性：确保 OpenVINO 支持你的 Intel 硬件（无论是 CPU、集成 GPU 还是 NPU），以便模型能够高效运行。
安装正确的驱动程序：如果你使用的是 Intel GPU 或 NPU，请仔细检查所有必需的驱动程序是否已正确安装并保持最新。
了解精度权衡：OpenVINO 支持 FP32、FP16 和 INT8 模型精度。每种精度都在速度和准确性之间存在权衡，因此根据你的性能目标和可用硬件选择正确的选项非常重要。