集成

将 Ultralytics YOLO 模型引入 Axelera AI 硬件以实现边缘 AI

了解 Ultralytics Python 包与 Axelera AI 合作支持的全新导出集成，实现高效、高性能的边缘 AI。

ABAbirami Vina6 min readMarch 31, 2026

将 Ultralytics YOLO 模型引入 Axelera AI 硬件以实现边缘 AI

在 Ultralytics，随着 AI 的普及，我们看到越来越多的人倾向于直接在边缘设备上运行计算机视觉模型。在与计算机视觉社区的交流中，无论是线上还是在近期的技术会议上，我们的团队都发现大家对在数据生成源头附近部署视觉 AI 的兴趣日益浓厚。

从智慧零售环境和工业自动化到机器人技术，实时洞察变得至关重要，仅仅依赖云端已不再足够。

简而言之，边缘 AI 指的是在本地设备上运行 AI 模型，而不是将数据发送到中心服务器进行处理。这使得降低延迟、提高可靠性并实时响应现实世界事件成为可能。

然而，在这些环境中部署高性能模型面临着挑战，因为有限的计算资源和功耗限制要求模型必须兼具高效性并针对运行它们的硬件进行优化。

诸如 Ultralytics YOLO26 之类的 Ultralytics YOLO 模型专为实时计算机视觉而设计，但要在边缘端充分发挥其潜力，需要软件与硬件的完美结合。这就是我们很高兴宣布与 Axelera AI 达成合作的原因。

我们已与 Axelera AI 合作推出了更新后的导出集成，能够实现 Ultralytics YOLO 模型在 Metis® AI 处理单元 (AIPUs) 上的高效、高性能部署。

Metis AI 处理单元概览

图 1. Metis AI 处理单元一览 (来源)

在本文中，我们将探讨如何轻松编译 Ultralytics YOLO 模型以进行 Metis 部署。让我们开始吧！

Link to this section边缘 AI 是计算机视觉的未来#

随着计算机视觉应用的不断演进，对更快、更高效处理的需求变得愈发关键。传统的云端方法可能会引入延迟，依赖于稳定的网络连接，并且可能无法满足许多智能视觉用例的实时性要求。

边缘 AI 通过使模型能够直接在本地设备上运行，从而让数据在其源头附近得到处理，以此解决这些挑战。例如，考虑在搜索和救援行动中使用的视觉驱动无人机。

这些系统需要在偏远地区（通常网络连接有限或没有连接）实时分析视频流以检测人员、障碍物或危险。通过直接在无人机上运行计算机视觉模型，边缘 AI 实现了更快的决策和更可靠的性能，而无需依赖云基础设施。

这种转变正在跨行业开启新的可能性。诸如零售业中的实时目标检测、制造业中的自动质量检测以及机器人感知等应用，都能受益于更快的响应时间和更高的可靠性。

边缘 AI 正在迅速成为在现实环境中部署可扩展且响应灵敏的计算机视觉系统的关键驱动力。

Link to this section探索 Axelera AI 的 Metis AI 处理单元#

在深入了解新的导出集成之前，让我们退后一步，进一步了解 Axelera AI 的 Metis AI 处理单元以及它们在实现高效边缘 AI 中所扮演的角色。

Axelera AI 开发了专门用于加速边缘 AI 推理的专用硬件。其中的关键部分是 Metis AIPU（AI 处理单元），这是一款专为在边缘设备上高效运行神经网络而构建的专用处理器。

与通用中央处理器 (CPU) 甚至图形处理器 (GPU) 不同，AIPU 旨在处理 AI 工作负载的特定计算模式。这使它们能够在保持低功耗的同时提供高性能，这对于资源通常受限的边缘环境至关重要。

Axelera AI 的方法之所以具有创新性，在于其全栈设计。Metis 采用数字存内计算 (D-IMC) 和 RISC-V 构建，以实现边缘计算所需的性能和能效。Metis 的四个核心是独立可编程的，这意味着你可以在每个芯片上并行运行四个模型。除了硬件之外，Voyager SDK 还包含一个编译器和运行时，它们协同工作以优化部署模型。

这使得开发者能够更高效地从训练好的模型过渡到生产就绪的推理。具体来说，Metis AIPU 使得在企业、零售、医疗保健、制造环境乃至农业、工业设备和卫星等边缘设备上直接运行先进的计算机视觉模型（如 Ultralytics YOLO 模型）成为可能。

Link to this section导出用于 Metis 部署的 Ultralytics YOLO 模型#

Ultralytics Python 软件包为跨各种计算机视觉任务的 YOLO 模型训练、评估和部署提供了统一接口。YOLO 模型通常使用 PyTorch 开发和训练，它非常适合实验和模型开发。

然而，当在专业边缘硬件上部署这些模型时，它们需要转换为针对目标设备优化的格式。这就是 Ultralytics Python 软件包支持的导出集成发挥作用的地方。

Ultralytics 提供了多种导出选项，允许根据部署目标（如 ONNX、TensorRT 和其他特定于硬件的后端）将 YOLO 模型转换为不同格式。这些集成通过处理必要的优化和转换步骤，简化了为现实应用准备模型的过程。

在此基础上，Ultralytics 引入了与 Axelera AI 的更新导出集成，使得 YOLO 模型能够被导出以在 Metis AIPU 上进行部署。

在导出期间，模型会被编译并量化为专门为 Axelera 硬件设计的优化表示。此过程会生成 ".axm" 格式的编译模型，以及部署和推理所需的元数据。

在 Metis AIPU 上运行的 Ultralytics YOLO 模型

图 2. Ultralytics YOLO 模型可以在 Metis AIPU 上运行。 (来源)

此次集成支持 Ultralytics YOLOv8、Ultralytics YOLO11 和 Ultralytics YOLO26 模型中广泛的计算机视觉任务，包括目标检测、姿态估计、实例分割、旋转边界框 (OBB) 检测和图像分类。虽然大多数任务可以直接通过导出工作流来支持，但 YOLO26 分割模型可以通过 Voyager SDK 结合 model zoo 使用。

这种扩展的支持使开发者能够灵活地根据其应用部署不同类型的视觉模型，从实时检测目标到场景理解、运动跟踪和分析复杂视觉数据。

一旦导出，模型就可以在推理时部署并运行，而无需依赖 PyTorch。相反，它们使用 Voyager SDK 运行时执行，该运行时支持为视频处理、实时检测和跟踪等任务构建端到端流水线，直接在边缘设备上运行。

Link to this section导出 Ultralytics YOLO 模型入门#

现在我们对新的导出集成有了更好的理解，让我们逐步了解如何将 Ultralytics YOLO 模型导出为此自定义格式，并在边缘的 Metis 硬件上运行它们。

Link to this section第 1 步：安装 Ultralytics Python 软件包#

要开始使用，你需要先安装 Ultralytics Python 软件包。它为训练、评估和导出 YOLO 模型提供了简单且一致的接口。

你可以通过 pip 安装它，方法是在你的终端或命令提示符下运行以下命令：

pip install ultralytics

如果在安装或导出过程中遇到任何问题，官方的 Ultralytics 文档和常见问题指南是进行故障排查的极佳资源。

Link to this section第 2 步：安装 Axelera 驱动程序和 Voyager SDK#

要导出模型并在 Axelera 硬件上运行，你还需要安装 Axelera 驱动程序和 Voyager SDK。此步骤支持与 Metis AIPU 通信，并提供所需的运行时和编译器工具。

以下步骤必须在可以访问 Axelera AI Metis 硬件的 Linux 环境中执行。在你的系统上打开终端，或者如果你在兼容的本地设置上运行 Jupyter Notebook，请使用笔记本单元格，然后执行以下命令。

首先添加 Axelera 存储库密钥，如下所示：

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

接下来，如下所示，将 Axelera 存储库添加到你的系统中：

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

然后安装 Voyager SDK 并加载 Metis 驱动程序，如下所示：

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

一旦这些步骤完成，你的系统将准备好在 Axelera AI Metis 设备上导出并运行 Ultralytics YOLO 模型。

Link to this section第 3 步：导出 Ultralytics YOLO 模型#

一旦安装了 Ultralytics 软件包，你就可以加载你的 YOLO 模型并将其导出为 Metis 的编译包。此过程将模型转换为针对 Axelera AI Metis 硬件部署优化的格式。

在下面的示例中，我们使用预训练的 YOLO26 nano 模型并将其导出以用于 Metis。导出的模型将保存在名为 "/yolo26n_axelera_model" 的目录中。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Link to this section第 4 步：使用导出的模型运行推理#

导出模型后，你可以加载它并在未见过的图像或视频流上运行推理。这使得在 Axelera AI Metis 设备上直接实现实时计算机视觉任务成为可能。

例如，下面的代码片段展示了如何加载导出的模型并在公开可用的 URL 上运行推理。

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

在这种情况下，模型分析输入图像并检测目标，将结果保存到 "runs/detect/predict" 目录。

Link to this sectionUltralytics YOLO 和 Axelera AI 硬件可以在哪里发挥作用#

接下来，让我们讨论一些常见的边缘 AI 应用场景，在这些场景中，Ultralytics YOLO 模型可以在实际场景中部署到 Axelera AI 硬件上。

Axelera AI 的 Metis AIPU 专为各种部署环境而设计，从嵌入式系统和工业 PC 到机器人和边缘服务器。凭借高性能、高能效的推理能力，它们使计算机视觉应用能够跨行业直接在设备上运行。Voyager SDK 还包括一个用于 ML 和 APP 工程师的流水线构建器，以将模型推向边缘端。

Link to this section零售业中在边缘运行的智能视觉系统#

在零售环境中，实时了解客户行为可能会带来显著差异。

使用运行在 Axelera AI 硬件上的 Ultralytics YOLO 模型，商店可以监控客流量、计算人数并实时分析店内移动模式。由于所有内容都在设备上运行，洞察力可以立即生成，而无需依赖云连接，从而帮助团队更快地做出响应，同时保护数据隐私。

使用 YOLO26 在商场中进行人员检测和计数

图 3. 使用 YOLO26 在商场检测和计算人数

Link to this section使用边缘 AI 进行公用设施和基础设施检查#

维护电力线等大规模基础设施既复杂又资源密集。这些网络通常跨越广阔的距离，使得检查既耗时、昂贵又具有潜在危险。当故障或早期磨损迹象未被检测到时，它们可能会升级为停电、设备损坏或安全隐患。

无人机正越来越多地被用于提高检查效率。它们可以覆盖长距离，进入难以到达的区域，并捕捉关键资产的高分辨率图像。

将无人机与边缘 AI 相结合进一步增强了这些工作流程。运行在 Axelera AI 硬件上的 Ultralytics YOLO 模型在检查过程中实现实时分析，识别故障、分类组件并现场检测异常。这减少了对人工审查的需求，并支持更快、更可靠的基础设施监控。

使用 YOLO26 检测电力线的各个部分

图 4. 使用 YOLO26 检测电力线的各个部分

Link to this section利用实时视觉 AI 洞察力驱动机器人技术#

对于机器人技术而言，速度和响应能力至关重要。无论是导航仓库还是在动态工业环境中操作，机器人都需要瞬间解读周围环境。

运行在 Axelera AI 硬件上的 Ultralytics YOLO 模型使机器人能够实时解读周围环境，从检测障碍物到跟踪人员和识别物体。这允许系统更安全地移动，适应动态条件，并在无需依赖持续云连接的情况下以更高的自主性运行。

Link to this section在 Metis AIPU 上运行 Ultralytics YOLO 模型的主要优势#

以下是使用新集成在 Axelera AI 的 Metis 硬件上部署 Ultralytics YOLO 模型的一些关键优势：

与 Ultralytics 工作流的无缝集成： 将 YOLO 模型导出以进行 Metis 部署自然地融入了 Ultralytics Python 软件包中，简化了从训练到推理的过渡。
支持多种计算机视觉任务： 你可以在 YOLOv8、YOLO11 和 YOLO26 上部署用于目标检测、姿态估计、分割、分类等的模型。
并行运行模型： Metis AIPU 设计有四个独立可编程的核心，能够并行运行四个独立的模型，以满足你的需求。
可扩展至各种边缘 AI 应用： 从零售分析和工业检查到机器人和智能基础设施，该集成支持广泛的现实用例。