Axelera AI 使用 Ultralytics YOLO 实现 34 FPS 的边缘 AI 推理

Axelera AI 是一家欧洲半导体公司，致力于制造功能强大、节能高效的 AI 芯片，用于在边缘运行计算机视觉。例如，他们的 Metis AI Processing Units (AIPUs) 被广泛应用于零售、安防和制造等行业。

为了让客户更轻松地构建和部署 AI 应用程序，Axelera 将 Ultralytics YOLO 模型 集成到了他们的 Voyager SDK 中。这是一个能够简化 Metis AIPUs 上模型优化、部署和加速的软件平台，让实时 Vision AI 变得更快、更简单且更具可扩展性。

Link to this section重新定义 Vision AI 硬件加速#

Axelera AI 成立于 2021 年，总部位于荷兰，旨在解决一个根本性问题：传统的 AI 硬件是为云端构建的，而非为 边缘 构建。为弥补这一差距，该公司开发了 Metis AIPU。

这是一款专为边缘工作负载设计的高性能、低功耗芯片，能够处理在设备本地运行的 AI 任务，在这些场景中，速度、隐私和能效至关重要。

该芯片由其专有的数字内存计算 (D-IMC) 技术提供支持，该技术使数据能够直接在存储位置进行处理，从而显著降低延迟和能耗。凭借完全集成的软件栈和普及 AI 的使命，Axelera 正在让高性能 AI 变得触手可及。

Link to this section在边缘 AI 硬件上运行模型的挑战#

为了在边缘提供无缝的 AI 体验，Axelera AI 不仅仅满足于提供高性能硬件。客户还需要一种简单可靠的方式来运行实时 计算机视觉 解决方案，而无需复杂的工具或耗时的定制。许多现有的模型过于臃肿、运行缓慢，或不适合资源受限的环境。

零售分析、工厂自动化和监控系统通常依赖快速准确的视觉洞察来支持运营。然而，传统模型和基于云的解决方案通常无法满足这些边缘 AI 应用程序在低延迟、能效和端侧处理方面的要求。

Axelera 开始寻找一套准确、易于实施且能够在 Metis AI Processing Units 上高效运行的模型套件。合适的解决方案将补充其硬件能力，同时简化开发并加快在各种边缘 AI 用例中的部署。

Link to this section利用 Ultralytics YOLO 在边缘加速 AI 推理#

Axelera AI 将 Ultralytics YOLO 模型集成到其 Voyager SDK 中，旨在使边缘 AI 应用程序的构建和部署更快、更简单且更具可扩展性。该 SDK 包含一个预置 YOLO 模型的 Model Zoo，并自动执行涵盖预处理、推理和后处理的全流程，且针对 Metis AI Processing Units 进行了优化。

图 1. Metis AI Processing Unit (AIPU)。

这种集成使客户能够直接使用开箱即用的预训练 Ultralytics YOLO 模型，或引入自己的模型，并实现在边缘硬件上的无缝加速。通过支持并行和级联模型执行，Metis AIPUs 能够实现诸如姿态估计后接分割等高级多模型设置。这对零售、安防和工业自动化中的复杂任务非常理想。

由 Ultralytics YOLO 模型支持的实时 计算机视觉任务 与 Axelera 高效硬件和软件栈的结合，带来了卓越的单位功耗性能和性价比。对客户而言，这意味着更准确的结果、更快的部署，以及更低的边缘 Vision AI 扩展门槛。

Link to this section为何选择 Ultralytics YOLO 模型？#

Axelera AI 与 Ultralytics 合作，将 Ultralytics YOLO 模型集成到其平台中，因为它们在准确性、速度和易用性之间实现了卓越的平衡。通过支持多种 Ultralytics YOLO 变体，Axelera AI 客户可以在 Metis AIPU 上评估各种工作负载和性能需求。

通过 Ultralytics 企业许可证，Axelera 提供对全套 YOLO 模型的访问，以供评估和开发使用。对于商业部署，客户需直接从 Ultralytics 获取自己的许可证，以确保合规性并支持边缘 Vision AI 的规模化创新。

Link to this section利用 Axelera AI 的 Voyager SDK 大规模应用 Ultralytics YOLO 模型#

借助 Ultralytics YOLO 模型和 Axelera AI 的 Voyager SDK，用户可以直接在 Metis AI Processing Units 上部署准确、低延迟的计算机视觉应用程序。此外，访问多个 YOLO 变体使客户能够根据应用程序的具体需求调整性能。

例如，Axelera AI 已经看到客户在各种领域测试基于 YOLO 的解决方案，例如：

• 零售： 结合姿态估计、分割和目标检测的多模型流水线可用于支持缩减损耗和库存跟踪等任务。这些部署可以在诸如 Raspberry Pi 5 配对 Metis AIPU 等嵌入式平台上高效运行。
• 制造： 客户可以使用并行模型执行在单块芯片上同时执行任务，例如缺陷检测、产品分类和姿态估计，从而提高吞吐量并降低硬件成本。
• 监控： YOLO 的实时 目标检测 功能可用于分析全分辨率的 4K 和 8K 视频流，有助于在关键环境中进行高精度的安全监控和态势感知。这比传统高分辨率摄像头的降采样方案要好得多。
• 医疗保健： 经过优化的 YOLO 流水线可以支持肿瘤识别，为端侧医学影像提供高推理速度和可靠的准确性。

这些用例展示了 Axelera AI 的边缘 AI 硬件和 Ultralytics YOLO 模型如何跨行业赋能高性能、节能的 Vision AI 创新。

Link to this section利用 Ultralytics YOLO 推动下一波边缘 AI 浪潮#

随着 Axelera AI 继续专注于扩大对高性能边缘 AI 的访问，它正在汇集强大的硬件和可靠的视觉模型，以帮助客户构建更智能、更快速的应用程序。

随着 Ultralytics YOLO 模型通过 Voyager SDK 和 Metis AIPU 硬件 提供，用户可以轻松地跨行业开发和扩展实时计算机视觉解决方案。此次合作支持了一个不断壮大的开发者和企业社区，他们致力于将 AI 带到数据产生的地方，从而提高边缘计算的效率、响应速度和创新能力。

准备好加速你的边缘 AI 之旅了吗？浏览我们的 GitHub 仓库，了解 YOLO 模型如何为 零售 AI 和 物流计算机视觉 等创新提供动力。上手体验我们的 Vision AI 工具，了解 许可证选项，并探索如何释放边缘侧高性能、节能的计算机视觉潜力。