Ultralytics YOLO27:
集成

Ultralytics YOLO 携手 DEEPX:面向 Physical AI 的边缘 AI 推理

了解全新的 DEEPX 导出集成如何将 Ultralytics YOLO 推理带到由 NPU 驱动的边缘 AI 硬件。

NUNuvola Ladi6 min read
面向 Physical AI 的 Ultralytics YOLO 与 DEEPX 边缘 AI 推理

在 Ultralytics,随着 AI 日益深入物理世界,我们看到越来越多的趋势是将计算机视觉模型直接运行在边缘设备上。从机器人和工业机械,到智能摄像头和自动驾驶汽车,越来越多的智能系统需要实时感知、理解并采取行动,而不依赖云端。

这股智能系统新浪潮被称为 Physical AI,它需要能够在真实世界自主运行的高性能、超低能耗计算。真实世界的系统需要在本地可靠、高效地运行于专为边缘场景打造的硬件上的视觉 AI。

Ultralytics YOLO 模型(例如 Ultralytics YOLO26)专为实时计算机视觉而设计,但要在边缘侧释放其全部潜力,需要软件和硬件的正确组合。为此,我们很高兴宣布与 DEEPX 达成新的合作。

我们已与 DEEPX 携手推出新的导出集成,使 Ultralytics YOLO 模型能够高效、高性能地部署在 DEEPX NPU 硬件上。双方共同为 Physical AI 的构建、部署和规模化建立统一的全球标准。

Ultralytics 01 **图 1。**用于设备端 AI 推理的 DEEPX 硬件生态系统,包括 DX-M1 M.2 模块和 DX-AIPlayer N97 AI Box*.*

面向 Physical AI 未来的共同愿景#

作为全球应用最广泛的计算机视觉框架,Ultralytics 为这些系统提供“眼睛”。作为最高效的 NPU 制造商之一,DEEPX 为这些系统提供大规模运行所需的“大脑”。

在 Ultralytics 和 DEEPX,我们坚信并致力于可访问性、高性能和开发者优先的设计。通过 объедин合 Ultralytics 与 DEEPX 生态系统,无论是正在交付首款产品的早期机器人公司,还是在数千个设施中部署视觉 AI 的《财富》500 强制造商,我们都能为其提供一条统一、可信的商业化部署路径。

这意味着:

  • **更快上市:**从标注到部署只需几天,而不是几个月。
  • **更低的部署成本:**以远低于 GPU 级性能所需功耗和芯片成本的代价,实现 GPU 级性能,并以 2-4 W 的功耗达到 250+ FPS。
  • **新的收入机会:**构建并交付过去在经济上不可行的边缘 AI 产品。
  • **面向未来的扩展能力:**专用 CI/CD 流水线确保每个新的 Ultralytics 版本都能与 DEEPX 硬件开箱即用,并由 DEEPX 多年的供应承诺提供保障。

探索 DEEPX 的 NPU 技术#

DEEPX 是一家 AI 半导体创新企业,提供高效的边缘 AI 硬件,专为 Ultralytics YOLO 等视觉模型打造,在每瓦帧数(FPS/W)方面处于行业领先水平。DEEPX 不追求理论指标优化,而是专注于真实世界的效率,使开发者能够以远低于 GPU 功耗预算的代价实现 GPU 级效果。

全栈设计让这一切成为可能。DX-M1 NPU 专门针对加速计算机视觉模型的计算模式而设计,配备被动散热并保持低功耗,适合对每瓦性能和长期可靠性有要求的生产级部署。

随着 Edge AI 进入主流应用阶段,真正重要的是可持续的性能:在严格的功耗和散热限制下可靠运行先进模型,同时保持真实世界部署所需的可扩展性。因此,每瓦 FPS 已成为评估边缘 AI 平台时最重要的指标之一。

基准测试图 图 2。YOLO26、YOLO11 和 YOLOv8 在 DX-M1 NPU 上的 Pareto 前沿基准测试。在配备 i5-14600K 主机(32GB RAM)的 DX-M1 上测得,SDK 为 dx-com v2.3.0,仅使用 NPU 芯片。

随着市场从 PoC 迈向大规模部署,客户越来越需要在相同的功耗和散热预算内同时运行多个 AI 模型。上图显示,YOLO26 始终在精度和效率之间实现更佳平衡:YOLO26n 在 DX-M1 上达到约 405 FPS/W,使开发者无需转向体积更大、功耗更高的硬件,就能运行更先进的 AI 工作负载。

开始将 Ultralytics YOLO 模型导出到 DEEPX#

Ultralytics Python 软件包 和 Ultralytics Platform 提供完整、统一的环境,用于在全部五项计算机视觉任务中训练、评估和部署 YOLO 模型。无论你偏好通过代码操作,还是使用无障碍的可视化工作流,这两种方式都能让你以一致且可扩展的方式将模型从数据带入部署阶段。

通过此次合作,Ultralytics 推出了与 DEEPX 的新导出集成,只需一条命令即可将 YOLO 模型导出,以部署到 DEEPX NPU 硬件上:format=deepx。该集成在 Ultralytics 生态系统中获得全面支持,这意味着开发者在完成模型标注和训练后,可以通过 Python 软件包或直接从 Ultralytics Platform 导出到 DEEPX。导出过程中,模型会被编译并进行 INT8 量化,生成经过优化的 .dxnn 二进制文件;基于 EMA 的校准可确保 NPU 性能最大化,同时不牺牲模型质量。

实际上,这意味着商业团队只需三条命令,就能将标注数据转化为运行在 DEEPX NPU 上的生产就绪模型:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

如需完整的设置详情,包括运行时安装以及使用 DEEPX 的 dxtron 图查看器进行可视化,请参阅 DEEPX 集成文档。

在 DEEPX NPU 上运行 Ultralytics YOLO 模型的主要优势#

以下是使用新集成将 Ultralytics YOLO 模型部署到 DEEPX 硬件上的一些主要优势:

  • 与 Ultralytics 工作流无缝集成:为 DEEPX 部署导出 YOLO 模型可以自然地融入 Ultralytics Python 软件包,通过单个 format=deepx 命令规范化边缘部署流程。
  • 支持多种计算机视觉任务:你可以在 YOLOv8、YOLO11 和 YOLO26 上部署用于目标检测、分割、姿态估计、定向边界框(OBB)检测和分类的模型。
  • 超高效的边缘推理:DEEPX NPU 以远低于 GPU 的功耗提供 GPU 级性能,并配备被动散热和超低功耗,非常适合生产级部署。
  • **面向未来的基础:**专用 CI/CD 流水线确保与每个新的 Ultralytics 版本开箱即用地兼容,而 DX-M1 到 DX-M2 的路线图则将同一软件栈延伸至 Agentic AI 时代。
  • 可扩展至 Physical AI 应用:从智能监控和工业检测,到机器人和自主系统,该集成支持广泛的真实世界用例。

Ultralytics YOLO 与 DEEPX 硬件可以发挥作用的领域#

那么,在真实世界场景中,有哪些常见的 Physical AI 应用可以将 Ultralytics YOLO 模型部署在 DEEPX 硬件上?

边缘智能监控#

现代监控系统需要实时检测,同时不能牺牲隐私或连接能力。运行在 DEEPX NPU 上的 Ultralytics YOLO 模型能够让安防摄像头和监控系统在本地分析视频流,实时识别人、车辆和异常活动,同时保持低功耗且不依赖云端。随着欧洲对 GDPR 的执行日益严格,以及市政采购越来越多地要求数据驻留,设备端推理不仅是技术优势,也成为一项监管优势。

工业自动化与质量控制#

在工厂和制造设施中,视觉 AI 越来越多地用于自动化质量控制、缺陷检测和流程监控。将 Ultralytics YOLO 模型与 DEEPX 硬件结合,可实现能够在严苛工业环境中全天候可靠运行的设备端检测,帮助减少浪费、提升产品质量并保障工人安全。

机器人与自主系统#

对于机器人而言,速度和响应能力至关重要。无论是在仓库中导航、于动态工业环境中运行,还是与人类协同工作,机器人都需要即时理解周围环境。运行在 DEEPX NPU 上的 Ultralytics YOLO 模型能够帮助机器人检测障碍物、跟踪人员并识别物体,从而支持更安全的移动和更高的自主性,而无需持续依赖云端连接。

要点总结#

Ultralytics YOLO 模型和 DEEPX NPU 让高性能 Physical AI 落地边缘侧比以往更加容易。通过新的 format=deepx 标准简化部署,并针对 DEEPX 的节能硬件优化模型,这项合作有助于弥合开发与真实世界商业应用之间的差距。随着 Physical AI 持续发展,这一合作迈出了重要一步,让各类规模企业都能以可访问、可负担且可扩展的方式使用生产级视觉 AI。

准备好让你的边缘 AI 产品更快上市了吗?

了解 机器人领域的 AI 和 制造业中的 AI 等创新如何塑造未来。

Explore solutions

用于航拍影像的计算机视觉

用于航拍影像的计算机视觉

使用 Ultralytics YOLO 将无人机和航拍影像转化为针对农业、水产养殖、环境监测、自然保护及地理空间分析的实时洞察。
了解更多
航空航天中的计算机视觉

航空航天中的计算机视觉

借助 Ultralytics YOLO 模型将视觉 AI 引入空中监测。使用计算机视觉解决方案赋能无人机、航空航天工作流、环境保护与地理空间行业。
了解更多
安全领域的计算机视觉

安全领域的计算机视觉

使用 Ultralytics YOLO 模型保护每个站点。视觉 AI 赋能周界监控、威胁检测、车牌识别和工作场所安全。
了解更多
机器人计算机视觉

机器人计算机视觉

借助 Ultralytics YOLO 模型打造更智能的机器。机器人技术中的视觉 AI 可实现自主导航、感知、目标跟踪和实时控制。
了解更多
物流计算机视觉

物流计算机视觉

使用 Ultralytics YOLO 模型提升物流效率。视觉 AI 可实现包裹检测、分拣、车辆跟踪和仓库安全实时监控。
了解更多
零售计算机视觉

零售计算机视觉

使用 Ultralytics YOLO 模型重新构想零售。视觉 AI 为库存跟踪、货架监控、队列管理和更智能的客户洞察提供支持。
了解更多
医疗领域的计算机视觉

医疗领域的计算机视觉

使用 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可实现更快的医学影像处理、更智能的诊断和患者监护。
了解更多
制造业中的计算机视觉

制造业中的计算机视觉

使用 Ultralytics YOLO 模型优化制造业。视觉 AI 可推动质量控制、缺陷检测、PPE 合规和装配线自动化。
了解更多
汽车行业中的计算机视觉

汽车行业中的计算机视觉

使用 Ultralytics YOLO 模型在汽车行业应用计算机视觉。视觉 AI 提升道路安全、驾驶辅助和车辆自动化水平,让道路更加智能。
了解更多
农业中的计算机视觉

农业中的计算机视觉

使用 Ultralytics YOLO 模型将视觉 AI 带入智能农业。为作物监测、牲畜追踪和精准农业提供支持,提升产量与智能化水平。
了解更多
用于航拍影像的计算机视觉

用于航拍影像的计算机视觉

使用 Ultralytics YOLO 将无人机和航拍影像转化为针对农业、水产养殖、环境监测、自然保护及地理空间分析的实时洞察。
了解更多
航空航天中的计算机视觉

航空航天中的计算机视觉

借助 Ultralytics YOLO 模型将视觉 AI 引入空中监测。使用计算机视觉解决方案赋能无人机、航空航天工作流、环境保护与地理空间行业。
了解更多
安全领域的计算机视觉

安全领域的计算机视觉

使用 Ultralytics YOLO 模型保护每个站点。视觉 AI 赋能周界监控、威胁检测、车牌识别和工作场所安全。
了解更多
机器人计算机视觉

机器人计算机视觉

借助 Ultralytics YOLO 模型打造更智能的机器。机器人技术中的视觉 AI 可实现自主导航、感知、目标跟踪和实时控制。
了解更多
物流计算机视觉

物流计算机视觉

使用 Ultralytics YOLO 模型提升物流效率。视觉 AI 可实现包裹检测、分拣、车辆跟踪和仓库安全实时监控。
了解更多
零售计算机视觉

零售计算机视觉

使用 Ultralytics YOLO 模型重新构想零售。视觉 AI 为库存跟踪、货架监控、队列管理和更智能的客户洞察提供支持。
了解更多
医疗领域的计算机视觉

医疗领域的计算机视觉

使用 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可实现更快的医学影像处理、更智能的诊断和患者监护。
了解更多
制造业中的计算机视觉

制造业中的计算机视觉

使用 Ultralytics YOLO 模型优化制造业。视觉 AI 可推动质量控制、缺陷检测、PPE 合规和装配线自动化。
了解更多
汽车行业中的计算机视觉

汽车行业中的计算机视觉

使用 Ultralytics YOLO 模型在汽车行业应用计算机视觉。视觉 AI 提升道路安全、驾驶辅助和车辆自动化水平,让道路更加智能。
了解更多
农业中的计算机视觉

农业中的计算机视觉

使用 Ultralytics YOLO 模型将视觉 AI 带入智能农业。为作物监测、牲畜追踪和精准农业提供支持,提升产量与智能化水平。
了解更多
用于航拍影像的计算机视觉

用于航拍影像的计算机视觉

使用 Ultralytics YOLO 将无人机和航拍影像转化为针对农业、水产养殖、环境监测、自然保护及地理空间分析的实时洞察。
了解更多
航空航天中的计算机视觉

航空航天中的计算机视觉

借助 Ultralytics YOLO 模型将视觉 AI 引入空中监测。使用计算机视觉解决方案赋能无人机、航空航天工作流、环境保护与地理空间行业。
了解更多
安全领域的计算机视觉

安全领域的计算机视觉

使用 Ultralytics YOLO 模型保护每个站点。视觉 AI 赋能周界监控、威胁检测、车牌识别和工作场所安全。
了解更多
机器人计算机视觉

机器人计算机视觉

借助 Ultralytics YOLO 模型打造更智能的机器。机器人技术中的视觉 AI 可实现自主导航、感知、目标跟踪和实时控制。
了解更多
物流计算机视觉

物流计算机视觉

使用 Ultralytics YOLO 模型提升物流效率。视觉 AI 可实现包裹检测、分拣、车辆跟踪和仓库安全实时监控。
了解更多
零售计算机视觉

零售计算机视觉

使用 Ultralytics YOLO 模型重新构想零售。视觉 AI 为库存跟踪、货架监控、队列管理和更智能的客户洞察提供支持。
了解更多
医疗领域的计算机视觉

医疗领域的计算机视觉

使用 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可实现更快的医学影像处理、更智能的诊断和患者监护。
了解更多
制造业中的计算机视觉

制造业中的计算机视觉

使用 Ultralytics YOLO 模型优化制造业。视觉 AI 可推动质量控制、缺陷检测、PPE 合规和装配线自动化。
了解更多
汽车行业中的计算机视觉

汽车行业中的计算机视觉

使用 Ultralytics YOLO 模型在汽车行业应用计算机视觉。视觉 AI 提升道路安全、驾驶辅助和车辆自动化水平,让道路更加智能。
了解更多
农业中的计算机视觉

农业中的计算机视觉

使用 Ultralytics YOLO 模型将视觉 AI 带入智能农业。为作物监测、牲畜追踪和精准农业提供支持,提升产量与智能化水平。
了解更多

让我们共同构建 AI 的未来!

开启你的机器学习未来之旅