Axelera AI 使用 Ultralytics YOLO 实现 34 FPS 的边缘 AI 推理

Axelera AI 是一家欧洲半导体公司，专注于制造强大且节能的 AI 芯片，用于在边缘运行计算机 vision。例如，他们的 Metis AI Processing Unit (AIPU) 被广泛应用于零售、安防和制造等行业。

为了让客户更轻松地构建和部署 AI 应用，Axelera 将 Ultralytics YOLO models 集成到其 Voyager SDK 中。这是一个简化 Metis AIPU 上模型优化、部署和加速的软件平台，使实时 Vision AI 更快、更简便且更具可扩展性。

重新定义 Vision AI 硬件加速#

Axelera AI 成立于 2021 年，总部位于荷兰，旨在解决一个根本问题：传统的 AI 硬件是为云端构建的，而不是为边缘构建的。为了弥补这一差距，该公司开发了 Metis AIPU。

这是一款专为边缘工作负载设计的高性能、低功耗芯片，能够处理在设备本地运行的 AI 任务，在这些场景中，速度、隐私和能效至关重要。

该芯片由其专有的数字内存计算 (D-IMC) 技术提供支持，该技术使数据能够直接在存储位置进行处理，从而显著降低延迟和能耗。凭借完全集成的软件栈和普及 AI 的使命，Axelera 正在让高性能 AI 变得触手可及。

在边缘 AI 硬件上运行模型的挑战#

为了在边缘提供无缝的 AI 体验，Axelera AI 旨在提供不仅仅是高性能的硬件。客户还需要一种简单且可靠的方法来运行实时的计算机 vision 解决方案，且无需涉及复杂的工具或耗时的定制。许多现有的模型体积太大、速度太慢，或者不适合资源受限的环境。

零售分析、工厂自动化和监控系统通常依赖快速准确的视觉洞察来支持运营。然而，传统模型和基于云的解决方案通常无法满足这些边缘 AI 应用程序在低延迟、能效和端侧处理方面的要求。

Axelera 开始寻找一套准确、易于实施且能够在 Metis AI Processing Units 上高效运行的模型套件。合适的解决方案将补充其硬件能力，同时简化开发并加快在各种边缘 AI 用例中的部署。

利用 Ultralytics YOLO 在边缘加速 AI 推理#

Axelera AI 将 Ultralytics YOLO models 集成到其 Voyager SDK 中，使构建和部署边缘 AI 应用更快、更轻松、更具可扩展性。该 SDK 包含一个带有开箱即用 YOLO models 的 Model Zoo，并自动化了整个流水线，涵盖针对 Metis AI Processing Unit 优化的预处理、推理和后处理。

图 1. Metis AI Processing Unit (AIPU)。

这种集成使客户能够直接使用开箱即用的预训练 Ultralytics YOLO 模型，或引入自己的模型，并实现在边缘硬件上的无缝加速。通过支持并行和级联模型执行，Metis AIPUs 能够实现诸如姿态估计后接分割等高级多模型设置。这对零售、安防和工业自动化中的复杂任务非常理想。

由 Ultralytics YOLO models 支持的实时计算机 vision tasks 与 Axelera 高效的硬软件栈相结合，提供了出色的每瓦性能和性价比。对于客户而言，这意味着更准确的结果、更快的部署以及降低在边缘扩展 Vision AI 的门槛。

为何选择 Ultralytics YOLO 模型？#

Axelera AI 与 Ultralytics 合作，将 Ultralytics YOLO 模型集成到其平台中，因为它们在准确性、速度和易用性之间实现了卓越的平衡。通过支持多种 Ultralytics YOLO 变体，Axelera AI 客户可以在 Metis AIPU 上评估各种工作负载和性能需求。

通过 Ultralytics Enterprise License，Axelera 提供对全套 YOLO models 的访问权限，以供评估和开发。对于商业部署，客户必须通过许可表单直接从 Ultralytics 获取自己的许可证，以确保合规性并支持边缘 Vision AI 的可扩展创新。

利用 Axelera AI 的 Voyager SDK 大规模应用 Ultralytics YOLO 模型#

借助 Ultralytics YOLO 模型和 Axelera AI 的 Voyager SDK，用户可以直接在 Metis AI Processing Units 上部署准确、低延迟的计算机视觉应用程序。此外，访问多个 YOLO 变体使客户能够根据应用程序的具体需求调整性能。

例如，Axelera AI 已经看到客户在各种领域测试基于 YOLO 的解决方案，例如：

• 零售： 结合姿态估计、分割和目标检测的多模型流水线可用于支持缩减损耗和库存跟踪等任务。这些部署可以在诸如 Raspberry Pi 5 配对 Metis AIPU 等嵌入式平台上高效运行。
• 制造： 客户可以使用并行模型执行在单块芯片上同时执行任务，例如缺陷检测、产品分类和姿态估计，从而提高吞吐量并降低硬件成本。
• 安防监控： YOLO 的实时对象检测功能可用于以全分辨率分析 4K 和 8K 视频流，从而在关键环境中促进高精度的安全监控和态势感知。这比对高分辨率相机进行传统的降采样要好得多。
• 医疗保健： 经过优化的 YOLO 流水线可以支持肿瘤识别，为端侧医学影像提供高推理速度和可靠的准确性。

这些用例展示了 Axelera AI 的边缘 AI 硬件和 Ultralytics YOLO 模型如何跨行业赋能高性能、节能的 Vision AI 创新。

利用 Ultralytics YOLO 推动下一波边缘 AI 浪潮#

随着 Axelera AI 继续专注于扩大对高性能边缘 AI 的访问，它正在汇集强大的硬件和可靠的视觉模型，以帮助客户构建更智能、更快速的应用程序。

通过 Voyager SDK 和 Metis AIPU hardware 提供 Ultralytics YOLO models，用户可以轻松地在各行各业开发和扩展实时计算机 vision 解决方案。此项合作支持了一个不断壮大的开发者和企业社区，他们致力于将 AI 带到更接近数据产生的地方，从而提高边缘的效率、响应能力和创新能力。

准备好加速你的边缘 AI 之旅了吗？浏览我们的 GitHub repository，看看 YOLO models 是如何为零售 AI 和物流计算机 vision 等创新提供动力的。动手体验我们的 Vision AI 工具，了解许可选项，并探索如何在边缘释放高性能、节能的计算机 vision。