Ultralytics YOLO27: 加入候补名单。
获取 YOLO 许可
集成

Ultralytics YOLO 携手 DEEPX:面向物理 AI 的边缘 AI 推理

了解 DEEPX 导出集成如何通过一条导出命令,将 Ultralytics YOLO 推理部署到节能的 DEEPX NPU,应用于边缘 AI 和物理 AI。

Nuvola LadiNuvola Ladi6 分钟阅读
面向物理 AI 的 Ultralytics YOLO 和 DEEPX 边缘 AI 推理

在 Ultralytics,随着 AI 日益深入物理世界,我们看到越来越多的计算机视觉模型直接在边缘设备上运行。从机器人和工业机械到智能摄像头和自动驾驶汽车,越来越多的智能系统需要实时观察、理解和行动,而不依赖云端。

这波新兴的智能系统被称为物理 AI,它要求计算具备高性能和超高能效,能够在现实世界中自主运行。现实世界的系统需要视觉 AI 在本地硬件上可靠、高效地运行,而这些硬件专为边缘计算打造。

像 Ultralytics YOLO26这样的 Ultralytics YOLO 模型专为实时计算机视觉而设计,但要在边缘充分发挥其潜力,需要软硬件的恰当组合。为此,我们很高兴地宣布与 DEEPX建立全新合作伙伴关系。

我们与 DEEPX 合作推出了新的导出集成,使 Ultralytics YOLO 模型能够高效、高性能地部署在 DEEPX NPU 硬件上。双方携手为物理 AI 的构建、部署和扩展制定统一的全球标准。

用于设备端 AI 推理的 DEEPX DX-M1 M.2 模块和 DX-AIPlayer N97 AI Box

图 1. 用于设备端 AI 推理的 DEEPX 硬件生态系统,包括 DX-M1 M.2 模块和 DX-AIPlayer N97 AI Box。

对物理 AI 未来的共同愿景#

作为全球应用最广泛的计算机视觉框架,Ultralytics 为这些系统提供“眼睛”。作为效率领先的 NPU 制造商之一,DEEPX 则提供大规模运行这些系统所需的“大脑”。

在 Ultralytics 和 DEEPX,我们致力于让技术更易用、性能更出色,并优先考虑开发者体验。通过整合 Ultralytics 和 DEEPX 生态系统,我们提供了一条统一、可信的商业视觉 AI 部署路径,无论你是刚开始交付首款产品的机器人初创公司,还是要在数千个设施中部署视觉 AI 的《财富》500 强制造企业。

这意味着:

  • 更快地进入市场:数天内完成从标注到部署,而不是数月。
  • 降低部署成本:以极低的功耗和芯片成本实现 GPU 级性能,功耗仅为 2-4 W 时即可达到 250+ FPS。
  • 开拓新的收入机会:构建并推出过去因经济成本过高而无法实现的边缘 AI 产品。
  • 面向未来的可扩展性:专用 CI/CD 流水线确保每个新版 Ultralytics 开箱即用地兼容 DEEPX 硬件,并由 DEEPX 多年的供货承诺提供保障。

探索 DEEPX 的 NPU 技术#

DEEPX 是一家 AI 半导体创新企业,提供高效的边缘 AI 硬件,专为 Ultralytics YOLO 等视觉模型打造,在每瓦帧数(FPS/W)方面处于行业领先水平。DEEPX 不以理论指标为优化目标,而是专注于现实世界中的效率,让开发者以极低的功耗预算实现 GPU 级效果。

这一切得以实现,源于全栈设计。DX-M1 NPU 专为加速计算机视觉模型的计算模式而设计,并采用被动散热和低功耗,适用于大规模生产部署;在这些场景中,每瓦性能和长期可靠性至关重要。

随着边缘 AI 逐渐普及,关键在于实现可持续的性能:在严格的功耗和散热限制下可靠运行高级模型,同时保持在实际部署中的可扩展性。因此,每瓦 FPS 已成为评估边缘 AI 平台最重要的指标之一。

YOLO26、YOLO11 和 YOLOv8 在 DEEPX DX-M1 NPU 上的帕累托前沿基准测试

图 2. YOLO26、YOLO11 和 YOLOv8 在 DX-M1 NPU 上的帕累托前沿基准测试。测试使用 DX-M1 和 i5-14600K 主机(32GB RAM),SDK dx-com v2.3.0,仅测量 NPU 芯片。

随着市场从 PoC 转向大规模部署,客户越来越需要在相同的功耗和散热预算下同时运行多个 AI 模型。上图显示,YOLO26 始终能更好地平衡精度与效率:YOLO26n 在 DX-M1 上达到约 405 FPS/W,让开发者无需换用体积更大、功耗更高的硬件,就能运行更先进的 AI 工作负载。

开始将 Ultralytics YOLO 模型导出到 DEEPX#

Ultralytics Python 软件包和 Ultralytics Platform提供了完整、统一的环境,帮助你针对所有受支持的计算机视觉任务训练、评估和部署 YOLO 模型。无论你喜欢编写代码,还是使用流畅的可视化工作流,这两种方式都能让你以一致且可扩展的方式将模型从数据阶段推进到部署阶段。

通过此次合作,Ultralytics 推出了与 DEEPX 的全新导出集成,只需一条命令即可将 YOLO 模型导出并部署到 DEEPX NPU 硬件上:format=deepx。该集成在整个 Ultralytics 生态系统中均受支持,这意味着开发者可以通过 Python 软件包导出到 DEEPX,也可以在标注和训练模型后直接从 Ultralytics Platform 导出。导出时,模型会经过编译和 INT8 量化,生成经过优化的 .dxnn 二进制文件;基于 EMA 的校准能确保 NPU 发挥最高性能,同时不牺牲模型质量。

实际而言,这意味着商业团队只需运行三条命令,就能从标注数据获得可在 DEEPX NPU 上运行、已准备好投入生产的模型:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

完整设置详情,包括运行时安装以及使用 DEEPX 的 dxtron 图查看器进行可视化,请参阅 DEEPX 集成文档。

在 DEEPX NPU 上运行 Ultralytics YOLO 模型的主要优势#

以下是使用新集成在 DEEPX 硬件上部署 Ultralytics YOLO 模型的一些主要优势:

  • 与 Ultralytics 工作流无缝集成:将 YOLO 模型导出并部署到 DEEPX,可自然融入 Ultralytics Python 软件包,只需一条 format=deepx 命令即可标准化边缘部署流程。
  • 支持多种计算机视觉任务:你可以在 YOLOv8、YOLO11 和 YOLO26 上部署目标检测、实例分割、分类、姿态估计和定向边界框(OBB)检测模型,还可以使用 YOLO26 部署语义分割和深度估计模型。
  • 超高效的边缘推理:DEEPX NPU 以极低功耗提供 GPU 级性能,并采用被动散热和超低功耗设计,非常适合大规模生产部署。
  • 面向未来的基础架构:专用 CI/CD 流水线确保每个新版 Ultralytics 开箱即用地兼容;DX-M1 到 DX-M2 的路线图则将同一软件栈延伸至 Agentic AI 时代。
  • 适用于各类物理 AI 应用并可扩展:从智能监控和工业检测到机器人和自主系统,该集成支持广泛的现实应用场景。

Ultralytics YOLO 和 DEEPX 硬件的应用价值#

那么,在现实场景中,哪些常见的物理 AI 应用可以将 Ultralytics YOLO 模型部署到 DEEPX 硬件上?

边缘端智能监控#

现代监控系统需要实现实时检测,同时不牺牲隐私或连接能力。在 DEEPX NPU 上运行的 Ultralytics YOLO 模型,可让安防摄像头和监控系统在本地分析视频流,实时识别人员、车辆和异常活动,同时保持低功耗且无需依赖云端。随着欧洲 GDPR 执法力度加强,市政采购也越来越多地要求数据驻留,端侧推理不仅具有技术优势,也能带来合规优势。

工业自动化与质量控制#

在工厂和制造设施中,视觉 AI 正越来越多地用于实现质量控制、缺陷检测和流程监控自动化。将 Ultralytics YOLO 模型与 DEEPX 硬件结合,可在严苛的工业环境中可靠地全天候运行端侧检测,帮助减少浪费、提升产品质量并保障工人安全。

机器人和自主系统#

对于机器人而言,速度和响应能力至关重要。无论是在仓库中导航、在动态工业环境中作业,还是与人类协同工作,机器人都需要即时理解周围环境。在 DEEPX NPU 上运行的 Ultralytics YOLO 模型可帮助机器人检测障碍物、跟踪人员并识别物体,支持更安全的移动和更高的自主性,同时无需依赖持续的云端连接。

要点#

Ultralytics YOLO 模型和 DEEPX NPU 让你以前所未有的轻松程度将高性能物理 AI 部署到边缘端。通过全新的 format=deepx 标准简化部署,并针对 DEEPX 高能效硬件优化模型,此次合作有助于弥合开发与实际商业应用之间的差距。随着物理 AI 持续发展,这项合作将推动生产级视觉 AI 变得触手可及、价格合理,并能适应各种规模企业的需求。

准备好让你的边缘 AI 产品更快上市了吗?

了解机器人领域的 AI和制造业中的 AI等创新如何塑造未来。

作者

Nuvola Ladi
Nuvola Ladi

数字内容经理 · Ultralytics

Nuvola Ladi 是 Ultralytics 的数字内容经理,负责创作涵盖视觉 AI 和 Ultralytics YOLO 的内容,并代表公司参加 PyTorch Conference 2025 等行业活动。她常驻西班牙,拥有 IE University 的视觉与数字媒体硕士学位。加入 Ultralytics 之前,她曾在 XVA Gallery & Hotel 和 Rolex 等机构任职。

评论

提出问题、分享你的结果,或帮助其他人。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来