将 Ultralytics YOLO 模型部署到 Axelera AI 硬件，赋能边缘 AI

在 Ultralytics，随着 AI 的普及，我们看到越来越多的人开始在边缘设备上直接运行计算机视觉模型。在与计算机视觉社区在线交流以及近期参加技术会议的过程中，我们的团队发现，大家越来越希望将视觉 AI 部署在更靠近数据生成源的位置。

从智能零售环境和工业自动化到机器人，实时洞察正变得至关重要，而仅仅依赖云端已远远不够。

简单来说，边缘 AI就是在设备本地运行 AI 模型，而不是将数据发送到集中式服务器进行处理。这样可以降低延迟、提高可靠性，并实时响应现实世界中的事件。

不过，在这些环境中部署高性能模型也有自身的挑战：有限的计算资源和功耗限制要求模型既高效，又针对运行它们的硬件进行了优化。

Ultralytics YOLO 模型（例如 Ultralytics YOLO26）专为实时计算机视觉而设计，但要充分发挥它们在边缘端的潜力，需要软硬件恰当配合。因此，我们很高兴宣布与 Axelera AI 展开合作。

我们与 Axelera AI 合作推出了更新版导出集成，让 Ultralytics YOLO 模型能够高效、高性能地部署在 Metis® AI 处理单元 (AIPU)上。

图 1. Metis AI 处理单元一览（来源）

本文将介绍如何轻松编译 Ultralytics YOLO 模型，以便部署到 Metis。现在就开始吧！

边缘 AI 是计算机视觉的未来#

随着计算机视觉应用不断发展，对更快、更高效处理能力的需求变得愈发重要。传统的云端方案可能会引入延迟、依赖稳定的网络连接，而且可能无法满足许多智能视觉应用场景的实时需求。

边缘 AI 通过让模型直接在本地设备上运行，解决了这些挑战，使数据能够在更靠近源头的位置进行处理。例如，可以看看用于搜救行动的视觉无人机。

这些系统需要实时分析视频流，以检测人员、障碍物或危险，在网络连接受限甚至完全没有网络的偏远地区尤其如此。通过在无人机上直接运行计算机视觉模型，边缘 AI 可以更快地做出决策并提供更可靠的性能，而无需依赖云基础设施。

这一转变正在为各行各业开辟新的可能。零售中的实时目标检测、制造业中的自动化质量检测，以及机器人中的感知等应用，都能从更快的响应速度和更高的可靠性中受益。

边缘 AI 正迅速成为关键推动力，助力在真实环境中部署可扩展、响应迅速的计算机视觉系统。

了解 Axelera AI 的 Metis AI 处理单元#

在深入了解新的导出集成之前，我们先退一步，了解 Axelera AI 的 Metis AI 处理单元，以及它们在实现高效边缘 AI 方面发挥的作用。

Axelera AI 开发了专用硬件，专门用于加速边缘端的 AI 推理。其中的关键部分是 Metis AIPU，即 AI 处理单元。这是一种专用处理器，旨在让神经网络能够在边缘设备上高效运行。

与通用中央处理器 (CPUs) 甚至图形处理器 (GPUs) 不同，AIPU 专为处理 AI 工作负载中特定的计算模式而设计。因此，它们能够在保持低功耗的同时提供高性能；对于资源通常有限的边缘环境来说，这一点至关重要。

Axelera AI 的方案特别创新之处在于其全栈设计。Metis 采用数字存内计算 (D-IMC) 和 RISC-V 技术，在实现高性能的同时满足边缘计算对能效的要求。Metis 的四个核心均可独立编程，这意味着你可以在一颗芯片上并行运行四个模型。除了硬件之外，Voyager SDK 还包含编译器和运行时，两者协同工作以优化待部署的模型。

这让开发者能够更高效地从训练好的模型转向可用于生产环境的推理。具体来说，Metis AIPU 支持在边缘设备上直接运行先进的计算机视觉模型（例如 Ultralytics YOLO 模型），应用环境涵盖企业、零售、医疗保健、制造、农业、工业设备乃至卫星。

为 Metis 部署导出 Ultralytics YOLO 模型#

Ultralytics Python 软件包为各种计算机视觉任务中的 YOLO 模型训练、评估和部署提供统一接口。YOLO 模型通常使用 PyTorch 开发和训练，PyTorch 非常适合实验和模型开发。

不过，将这些模型部署到专用边缘硬件时，需要将它们转换为针对目标设备优化的格式。这时就要用到 Ultralytics Python 软件包支持的导出集成。

Ultralytics 提供多种导出选项，可根据部署目标将 YOLO 模型转换为不同格式，例如 ONNX、TensorRT 以及其他特定于硬件的后端。这些集成会处理必要的优化和转换步骤，从而简化模型在真实应用场景中的准备工作。

在此基础上，Ultralytics 推出了更新版的 Axelera AI 集成，让 YOLO 模型能够导出并部署到 Metis AIPU 上。

导出过程中，模型会被编译并量化为专为 Axelera 硬件设计的优化表示形式。该过程会生成一个 ".axm" 格式的编译模型，以及部署和推理所需的元数据。

图 2. Ultralytics YOLO 模型可在 Metis AIPU 上运行。（来源）

该集成支持多种计算机视觉任务，适用于 Ultralytics YOLOv8、Ultralytics YOLO11 和 Ultralytics YOLO26 模型，包括目标检测、姿态估计、实例分割、旋转边界框 (OBB) 检测和图像分类。大多数任务都可通过导出工作流直接支持；YOLO26 分割则可以通过 Voyager SDK 使用模型库。

扩展后的支持让开发者能够根据应用需求灵活部署不同类型的视觉模型，从实时检测物体，到理解场景、跟踪运动，再到分析复杂的视觉数据。

导出后，模型可在推理时无需依赖 PyTorch 即可部署和运行。模型改由 Voyager SDK 运行时执行，该运行时支持构建端到端流水线，以便直接在边缘设备上完成视频处理、实时检测和跟踪等任务。

开始导出 Ultralytics YOLO 模型#

了解新的导出集成后，接下来我们将介绍如何把 Ultralytics YOLO 模型导出为这种自定义格式，并在边缘端的 Metis 硬件上运行。

第 1 步：安装 Ultralytics Python 包#

首先，你需要安装 Ultralytics Python 软件包。它为 YOLO 模型的训练、评估和导出提供简单且一致的接口。

你可以在终端或命令提示符中运行以下命令，通过 pip 安装：

pip install ultralytics

如果在安装或导出过程中遇到问题，Ultralytics 官方文档和常见问题指南是排查问题的实用资源。

步骤 2：安装 Axelera 驱动和 Voyager SDK#

要在 Axelera 硬件上导出和运行模型，你还需要安装 Axelera 驱动和 Voyager SDK。此步骤可实现与 Metis AIPU 的通信，并提供所需的运行时和编译器工具。

以下步骤需要在能够访问 Axelera AI Metis 硬件的 Linux 环境中执行。在系统上打开终端；如果你在兼容的本地环境中运行 Jupyter Notebook，也可以使用笔记本单元格，然后执行以下命令。

首先，按如下方式添加 Axelera 软件源密钥：

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

接下来，如下所示，将 Axelera 软件源添加到系统中：

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

然后，按如下方式安装 Voyager SDK 并加载 Metis 驱动：

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

完成这些步骤后，你的系统即可在 Axelera AI Metis 设备上导出和运行 Ultralytics YOLO 模型。

步骤 3：导出 Ultralytics YOLO 模型#

安装 Ultralytics 软件包后，你可以加载 YOLO 模型，并将其导出为适用于 Metis 的编译软件包。此过程会将模型转换为针对 Axelera AI Metis 硬件部署优化的格式。

在下面的示例中，我们使用预训练的 YOLO26 nano 模型，并将其导出以用于 Metis。导出的模型将保存在名为 "/yolo26n_axelera_model" 的目录中。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

步骤 4：使用导出的模型运行推理#

导出模型后，你可以加载模型，并对未见过的图像或视频流运行推理。这样就能直接在 Axelera AI Metis 设备上执行实时计算机视觉任务。

例如，下面的代码片段展示了如何加载导出的模型，并对公开可访问的 URL 运行推理。

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

在此示例中，模型会分析输入图像并检测物体，然后将结果保存到 "runs/detect/predict" 目录中。

Ultralytics YOLO 和 Axelera AI 硬件的应用场景#

接下来，我们来讨论一些常见的边缘 AI 应用场景，看看 Ultralytics YOLO 模型如何部署在 Axelera AI 硬件上并用于实际环境。

Axelera AI 的 Metis AIPU 适用于多种部署环境，从嵌入式系统和工业 PC，到机器人和边缘服务器。凭借高性能、高能效的推理能力，它们支持各行业的计算机视觉应用直接在设备上运行。Voyager SDK 还包含一个流水线构建器，供机器学习和应用工程师将模型产品化并部署到边缘端。

在边缘端运行的零售智能视觉系统#

在零售环境中，实时了解客户行为可以带来显著影响。

借助在 Axelera AI 硬件上运行的 Ultralytics YOLO 模型，商店可以实时监控客流、统计人数并分析店内人流移动模式。由于所有处理都在设备上完成，无需依赖云端连接即可即时生成洞察，帮助团队更快采取行动，同时保护数据隐私。

图 3. 使用 Ultralytics YOLO26 检测并统计购物中心内的人数

使用边缘 AI 检查公用设施和基础设施#

维护电力线路等大型基础设施十分复杂，且需要投入大量资源。这些网络通常绵延很远，导致检查耗时、成本高昂，而且可能存在危险。若故障或早期磨损迹象未被发现，问题可能会进一步发展为停电、设备损坏或安全风险。

无人机正越来越多地用于提升检查效率。无人机可以覆盖较长距离、抵达难以到达的区域，并拍摄关键资产的高分辨率图像。

将无人机与边缘 AI 结合，能进一步改进这些工作流程。在 Axelera AI 硬件上运行的 Ultralytics YOLO 模型可在检查过程中进行实时分析，识别故障、分类部件并在现场检测异常。这样可以减少人工审核的需求，并支持更快速、更可靠的基础设施监测。

图 4. 使用 Ultralytics YOLO26 检测电力线路的各个部件

利用实时视觉 AI 洞察为机器人赋能#

对于机器人而言，速度和响应能力至关重要。无论是在仓库中导航，还是在动态的工业环境中作业，机器人都需要即时理解周围环境。

在 Axelera AI 硬件上运行的 Ultralytics YOLO 模型让机器人能够实时理解周围环境，从检测障碍物到跟踪人员和识别物体。这让系统能够更安全地移动、适应动态条件，并在无需持续连接云端的情况下实现更高程度的自主运行。

在 Metis AIPU 上运行 Ultralytics YOLO 模型的主要优势#

以下是通过新的集成在 Axelera AI Metis 硬件上部署 Ultralytics YOLO 模型的一些主要优势：

• **与 Ultralytics 工作流无缝集成：**为 Metis 部署导出 YOLO 模型可自然融入 Ultralytics Python 软件包，从而简化从训练到推理的转换过程。
• **支持多种计算机视觉任务：**你可以使用 YOLOv8、YOLO11 和 YOLO26 部署模型，执行目标检测、姿态估计、分割、分类等任务。
• **并行运行模型：**Metis AIPU 配备四个可独立编程的核心，能够根据你的需求并行运行四个不同的模型。
• **适用于多种边缘 AI 应用：**从零售分析和工业检测，到机器人和智能基础设施，该集成支持广泛的真实应用场景。

要点回顾#

Ultralytics YOLO 模型与 Axelera AI 的 Metis AIPU，让高性能计算机视觉更容易部署到边缘端。该集成通过简化部署流程并针对专用硬件优化模型，帮助弥合开发与实际应用之间的差距。

随着边缘 AI 持续发展，高效且可扩展的部署选项将成为构建响应迅速、可靠系统的关键。这项合作迈出了一步，让各行各业都能更轻松地使用先进的视觉 AI。

想进一步了解 AI？浏览我们的 GitHub 仓库，加入我们的社区，并查看我们的许可选项，为你的计算机视觉项目起步。了解零售 AI和医疗保健中的计算机视觉等创新如何塑造未来。