了解全新的 DEEPX 导出集成如何将Ultralytics YOLO 引入基于 NPU 的边缘 AI 硬件。

了解全新的 DEEPX 导出集成如何将Ultralytics YOLO 引入基于 NPU 的边缘 AI 硬件。

Ultralytics随着人工智能在物理世界中的深度融合,我们正目睹一种日益明显的趋势:即直接在边缘设备上运行计算机视觉模型。从机器人和工业机械到智能摄像头和自动驾驶汽车,越来越多的智能系统被要求在不依赖云端的情况下,实时进行感知、理解和行动。
这一波新兴的智能系统被称为“物理人工智能”,它需要能够自主运行于现实世界的高性能、超节能计算能力。现实世界中的系统需要一种视觉人工智能,它能够在专为边缘计算设计的硬件上本地运行,且运行可靠、高效。
Ultralytics YOLO (如 Ultralytics )专为实时计算机视觉而设计,但要在边缘设备上充分发挥其潜力,需要软硬件的完美结合。为此,我们很高兴宣布与DEEPX 建立新的合作伙伴关系。
我们已与 DEEPX 建立合作伙伴关系,推出了一项全新的导出集成方案,可实现Ultralytics YOLO 在 DEEPX NPU 硬件上的高效、高性能部署。双方正携手为物理人工智能的构建、部署和扩展制定统一的全球标准。
作为全球应用最广泛的计算机视觉框架,Ultralytics 这些系统Ultralytics “眼睛”。作为最高效的 NPU 制造商之一,DEEPX 则提供了“大脑”,使其能够大规模运行。
在Ultralytics DEEPX,我们秉持并致力于实现易用性、高性能以及以开发者为先的设计理念。通过整合Ultralytics DEEPX 的生态系统,我们为视觉人工智能的商业化部署提供了一条统一且值得信赖的途径——无论您是正在推出首款产品的初创机器人公司,还是在数千家工厂中全面部署视觉人工智能的《财富》500 强制造商。
这意味着:
在深入探讨新的导出集成功能之前,让我们先来了解一下 DEEPX,以及其 NPU 在实现高效物理人工智能方面发挥的作用。
DEEPX 是一家人工智能半导体创新企业,致力于提供高效的边缘人工智能硬件,专为Ultralytics YOLO 等视觉模型设计YOLO 每瓦帧率(FPS/W)YOLO 无与伦比。
DEEPX 芯片通过专注于实际应用中的能效而非理论指标,重新定义了性能标准,使开发者能够以极低的功耗实现GPU性能表现。
DEEPX 方案的创新之处在于其全栈设计。DX-M1 NPU 专为加速计算机视觉模型的计算模式而设计,采用被动散热且功耗低,非常适合注重每瓦性能和长期可靠性的生产级部署。 DX-M1 目前已在三星代工的 5nm 工艺上实现量产,而 DX-M2 也已列入路线图,将采用三星 2nm GAA 工艺,旨在将这一效率优势延伸至代理式 AI 时代。
Ultralytics Python 和 Ultralytics 为在所有五项计算机视觉任务中训练、评估和部署YOLO 提供了完整且统一的环境。无论您更倾向于编写代码,还是通过无缝的可视化工作流进行操作,这两种途径都能为您提供一种一致且可扩展的方式,将模型从数据阶段推进到部署阶段。
通过此次合作Ultralytics 与 DEEPX 的新导出集成方案,Ultralytics 使用一条命令:format=deepx,即可将YOLO 导出并部署到 DEEPX NPU 硬件上。该集成在Ultralytics 得到全面支持,这意味着开发者在对模型进行标注和训练后,既可以通过Python ,也可以直接通过Ultralytics 将模型导出至 DEEPX。 在导出过程中,模型将经过编译并采用 INT8 量化技术转换为优化的 .dxnn 二进制文件,EMA校准机制可确保在不牺牲模型质量的前提下,充分发挥 NPU 的性能。
实际上,这意味着商业团队只需三条命令,就能将标注好的数据转化为可在 DEEPX NPU 上运行的、已准备好投入生产的模型:
如需了解完整的配置详情(包括运行时安装以及使用 DEEPX 的 dxtron 图可视化工具进行可视化),请查阅 DEEPX 集成文档。
以下是利用新集成方案在 DEEPX 硬件上部署Ultralytics YOLO 的一些主要优势:
那么,在现实场景中Ultralytics YOLO 可以在 DEEPX 硬件上部署的常见物理人工智能应用有哪些?
现代监控系统要求在不牺牲隐私或连接性的前提下实现实时检测。在 DEEPX NPU 上运行YOLO Ultralytics YOLO 使安防摄像头和监控系统能够本地分析视频流,实时识别人员、车辆和异常活动,且功耗低且无需依赖云端。随着欧洲《通用数据保护条例》(GDPR)的执行日益严格,以及市政采购越来越强制要求数据本地化,设备端推理不仅在技术上具有优势,在合规方面也成为一项重要优势。
在工厂和制造设施中,视觉人工智能正越来越多地被用于实现质量控制、缺陷检测和工艺监控的自动化。Ultralytics YOLO 与DEEPX硬件相结合,可在严苛的工业环境中实现全天候稳定运行的设备端检测,从而有助于减少浪费、提升产品质量并保障工人安全。
对于机器人技术而言,速度和响应能力至关重要。无论是穿梭于仓库之中、在动态工业环境中作业,还是与人类协同工作,机器人都需要即时解读周围环境。在 DEEPX NPU 上运行的Ultralytics YOLO 使机器人能够实时detect 、track 并识别物体,从而在无需依赖持续云连接的情况下,实现更安全的移动和更高的自主性。
Ultralytics YOLO DEEPX 的 NPU,将高性能物理人工智能部署到边缘设备上比以往任何时候都更加轻松。通过采用新的 format=deepx 标准简化部署流程,并针对 DEEPX 的节能硬件对模型进行优化,此次合作有助于弥合开发与实际商业应用之间的鸿沟。随着物理人工智能的持续发展,此次合作标志着迈出了重要一步,将使生产级视觉人工智能变得触手可及、经济实惠且可扩展,从而惠及各种规模的企业。
准备好让您的边缘AI产品更快上市了吗?
开启您的机器学习未来之旅