借助 Ultralytics YOLOv8 和 Intel OpenVINO 提升推理速度
使用 Ultralytics YOLOv8 和 Intel OpenVINO™,CPU 推理速度最高可提升 3 倍,并针对 Intel CPU、GPU 和 VPU 优化部署。
Paula Derrenger3 分钟阅读
部署人工智能模型时,速度和效率至关重要。Ultralytics 很高兴分享我们与 Intel OpenVINO™ 工具套件的最新集成,它让你能够更轻松地在 Intel 硬件上部署优化后的 AI 模型。这项与 Intel 的合作将 Ultralytics YOLOv8模型的强大能力与 Intel OpenVINO™的高效性能相结合,让 CPU 的速度最高提升 3 倍,并增强了模型在 Intel 广泛硬件生态系统上的性能,包括集成 GPU、独立 GPU 和 VPU。
这项集成有何特别之处?#
Intel OpenVINO™ 工具套件旨在最大限度地提升 AI 模型在 Intel 硬件上的性能。除了视觉任务,OpenVINO™ 还支持多种任务,从语言处理到音频分析。通过针对 OpenVINO™ 优化 YOLOv8 模型,Ultralytics 帮助用户实现更快、更高效的 AI 推理,无论用户是在开发视频分析、智慧城市还是下一代零售应用。
如果你想详细了解如何导出并优化 Ultralytics YOLOv8 模型,以便使用 OpenVINO™ 进行推理,请查看我们的分步教程:将 YOLOv8 导出为 OpenVINO。
一窥整个流程#
想象一下,你可以将 Ultralytics YOLOv8 模型直接导出为专为速度和效率打造的格式。这正是这项集成带来的功能。开发者只需几行代码,就能将 YOLOv8 模型转换为兼容 OpenVINO™ 的版本,随时利用 Intel 提供的硬件加速。这让此前受计算能力限制的 AI 应用也能切实运行起来。
OpenVINO 的优势:简化 AI 开发#
Ultralytics 与 Intel 的集成是 AI 开发流程中的一项切实进展。通过结合 YOLOv8 和 OpenVINO™,开发者获得了一种高效利用 Intel® CPU 的方式,而 CPU 是许多领域计算工作的核心。这让 AI 更易于应用,也更高效地服务于实际场景。
使用 OpenVINO™ 可以优化推理流程,让 Ultralytics YOLOv8 模型在真实环境中高效运行。这样一来,无需昂贵的 GPU 配置,就能在各种设备上快速部署 AI 解决方案,拓展智慧城市计划和零售客户体验等领域的可能性。
实际应用优势#
- 性能提升: 在 CPU 上体验最高 3 倍的 AI 推理加速,在 Intel 的整个硬件系列上还可获得更大的加速效果。
- 灵活部署: 只需编写一次应用,就能在 Intel 硬件生态系统中的任意设备上部署,从 CPU 到 VPU 均可使用,无需修改代码。
- 易于使用: 你可以访问 80 多个教程,了解如何优化 AI 模型,即使你不是深度学习专家也没问题。
成功案例:基准测试结果说明一切#
Ultralytics 和 Intel 对这项集成进行了测试,在各种 Intel 硬件平台上对 YOLOv8 模型进行基准测试。结果表明,经过 OpenVINO™ 优化的模型在不牺牲准确性的前提下,运行速度始终快于未优化的模型,测试范围从 Intel Data Center GPU Flex 系列到最新的 Xeon CPU。

图 1。不同模型尺寸和格式的单张图像推理时间(Xeon CPU)
让 AI 走进现实世界#
这项集成的意义不止于数据和基准测试;它还帮助开发者更轻松、更高效地将 AI 应用于真实场景。无论是通过更快的目标检测增强安全系统,还是通过智能分析创造更具吸引力的零售体验,Ultralytics YOLOv8 与 Intel OpenVINO™ 的集成都有助于推动新一代 AI 应用的发展。
立即开始!#
要亲自试用这项集成,可以将 YOLOv8 模型导出为 OpenVINO™ 格式,并在自己的 Intel 硬件上进行基准测试。更多信息和分步指南,请访问我们的 OpenVINO 集成文档页面。
作者
评论
提出问题、分享你的结果,或帮助其他人。










