将 Ultralytics YOLO 模型带到 Axelera AI 硬件上，实现边缘 AI

随着 AI 的应用日益广泛，我们在 Ultralytics 观察到，越来越多的人开始将计算机视觉模型直接部署在边缘设备上。无论是在线上交流，还是在近期的科技会议上与计算机视觉社区成员面对面交流，我们的团队都发现，大家越来越关注如何将视觉 AI 部署到更靠近数据生成位置的地方。

从智慧零售环境和工业自动化到机器人技术，实时洞察正变得不可或缺，单靠云端已经不够了。

简而言之，边缘 AI就是在设备本地运行 AI 模型，而不是将数据发送到集中式服务器进行处理。这样可以降低延迟、提高可靠性，并实时响应现实世界中的事件。

不过，在这些环境中部署高性能模型也面临着自身的挑战：计算资源有限且功耗受限，因此模型既要高效，也要针对运行它们的硬件进行优化。

Ultralytics YOLO 模型（例如 Ultralytics YOLO26）专为实时计算机视觉而设计，但要在边缘端充分发挥其潜力，就需要软硬件协同配合。因此，我们很高兴宣布与 Axelera AI 展开合作。

我们与 Axelera AI 合作推出了更新后的导出集成，使 Ultralytics YOLO 模型能够高效、高性能地部署在 Metis® AI 处理单元 (AIPUs) 上。

图 1. Metis AI 处理单元一览（来源）

本文将介绍如何编译 Ultralytics YOLO 模型，以便部署到 Metis。

边缘 AI 是计算机视觉的未来#

随着计算机视觉应用不断发展，对更快、更高效处理能力的需求变得越来越迫切。传统的云端方案可能会增加延迟、依赖稳定的网络连接，而且未必能满足许多智能视觉应用场景的实时需求。

边缘 AI 让模型能够直接在本地设备上运行，从而使数据可以在更靠近来源的位置进行处理，解决了这些挑战。例如，可以考虑用于搜索与救援行动的视觉无人机。

这些系统需要实时分析视频流，以检测人员、障碍物或危险，且通常在网络连接有限或完全没有网络连接的偏远地区运行。通过直接在无人机上运行计算机视觉模型，边缘 AI 无需依赖云基础设施，即可加快决策速度并提高运行可靠性。

这一转变正在为各行各业开辟新的可能。零售业中的实时目标检测、制造业中的自动化质量检测，以及机器人技术中的感知等应用，都能从更快的响应速度和更高的可靠性中获益。

边缘 AI 正迅速成为关键技术，助力在真实环境中部署可扩展、响应迅速的计算机视觉系统。

深入了解 Axelera AI 的 Metis AI 处理单元#

在深入了解新的导出集成之前，我们先来了解 Axelera AI 的 Metis AI 处理单元，以及它们在实现高效边缘 AI 方面所发挥的作用。

Axelera AI 开发了专用硬件，专门用于加速边缘端的 AI 推理。其中的关键组件是 Metis AIPU，即 AI 处理单元。这是一款专用处理器，旨在边缘设备上高效运行神经网络。

与通用中央处理器 (CPUs) 甚至图形处理器 (GPUs) 不同，AIPU 专为处理 AI 工作负载中的特定计算模式而设计。这使 AIPU 能够在保持低功耗的同时实现高性能，这对于资源通常有限的边缘环境至关重要。

Axelera AI 的独特之处在于其全栈式设计。Metis 基于数字存内计算（D-IMC）和 RISC-V 架构构建，在提供高性能的同时，也满足边缘计算对能效的要求。Metis 的四个核心可独立编程，这意味着你可以在每颗芯片上并行运行四个模型。除硬件外，Voyager SDK 还包含编译器和运行时，两者协同工作以优化模型部署。

这让开发者能够更高效地将训练好的模型转化为可投入生产的推理方案。具体来说，Metis AIPU 能够让先进的计算机视觉模型（如 Ultralytics YOLO 模型）直接运行在边缘设备上，适用于企业、零售、医疗保健和制造业环境，也适用于农业、工业设备和卫星。

导出 Ultralytics YOLO 模型以部署到 Metis#

Ultralytics Python 软件包为 YOLO 模型提供统一接口，支持针对各种计算机视觉任务进行训练、评估和部署。YOLO 模型通常使用 PyTorch 开发和训练，PyTorch 非常适合模型试验和开发。

不过，要将这些模型部署到专用边缘硬件上，就需要将模型转换为针对目标设备优化的格式。这时就需要用到 Ultralytics Python 软件包支持的导出集成。

Ultralytics 提供多种导出选项，可根据部署目标将 YOLO 模型转换为不同格式，例如 ONNX、TensorRT 和其他特定于硬件的后端。这些集成会处理必要的优化和转换步骤，简化模型在实际应用中的准备流程。

基于此，Ultralytics 推出了更新版的 Axelera AI 集成，支持导出 YOLO 模型，以便部署到 Metis AIPU 上。

导出期间，模型会经过编译和量化，转换为专为 Axelera 硬件设计的优化表示形式。此过程会生成一个 ".axm" 格式的编译模型，以及部署和推理所需的元数据。

图 2. Ultralytics YOLO 模型可以在 Metis AIPU 上运行。（来源）

该集成支持 Ultralytics YOLOv8、Ultralytics YOLO11 和 Ultralytics YOLO26 模型的多种计算机视觉任务，包括目标检测、实例分割、图像分类、姿态估计和旋转框（OBB）检测。当前版本支持直接导出所有 Ultralytics 任务，包括 YOLO26 语义分割和深度估计；详情请参阅支持的任务。Voyager SDK 的模型库还提供可直接运行的 YOLO 模型。

扩展后的支持范围让开发者可以根据应用需求灵活部署不同类型的视觉模型，用于实时目标检测、场景理解、运动跟踪和复杂视觉数据分析等任务。

模型导出后，无需在推理时依赖 PyTorch 即可部署和运行。模型会通过 Voyager SDK 运行时执行，而该运行时支持直接在边缘设备上构建端到端流水线，用于视频处理、实时检测和跟踪等任务。

开始导出 Ultralytics YOLO 模型#

现在我们对新的导出集成有了更深入的了解，接下来一起看看如何将 Ultralytics YOLO 模型导出为这种自定义格式，并在边缘端的 Metis 硬件上运行。

第 1 步：安装 Ultralytics Python 包#

首先，你需要安装 Ultralytics Python 软件包。它提供简单且统一的接口，用于训练、评估和导出 YOLO 模型。

你可以在终端或命令提示符中运行以下命令，通过 pip 安装该软件包：

pip install ultralytics

如果在安装或导出过程中遇到问题，官方的 Ultralytics 文档和常见问题指南是很好的故障排查资源。

第 2 步：安装 Axelera 驱动程序和 Voyager SDK#

要在 Axelera 硬件上导出和运行模型，你还需要安装 Axelera 驱动程序和 Voyager SDK。此步骤可启用与 Metis AIPU 的通信，并提供所需的运行时和编译器工具。

以下步骤必须在能够访问 Axelera AI Metis 硬件的 Linux 环境中执行。打开系统终端；如果你在兼容的本地环境中运行 Jupyter Notebook，也可以使用笔记本单元格，然后执行以下命令。

首先，按以下方式添加 Axelera 软件源密钥：

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

接下来，如下所示，将 Axelera 软件源添加到系统中：

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

然后，按以下方式安装 Voyager SDK 并加载 Metis 驱动程序：

sudo apt update
sudo apt install -y metis-dkms
sudo modprobe metis

完成这些步骤后，你的系统就可以在 Axelera AI Metis 设备上导出和运行 Ultralytics YOLO 模型了。

第 3 步：导出 Ultralytics YOLO 模型#

安装 Ultralytics 软件包后，你可以加载 YOLO 模型，并将其导出为适用于 Metis 的编译软件包。此过程会将模型转换为针对 Axelera AI Metis 硬件部署优化的格式。

在下面的示例中，我们使用预训练的 YOLO26 nano 模型，并将其导出以用于 Metis。导出的模型将保存在名为“yolo26n_axelera_model”的目录中。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

第 4 步：使用导出的模型运行推理#

导出模型后，你可以加载模型并对未见过的图像或视频流运行推理。这样就能直接在 Axelera AI Metis 设备上执行实时计算机视觉任务。

例如，下面的代码片段展示了如何加载导出的模型，并对一个公开可用的 URL 运行推理。

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

在此示例中，模型会分析输入图像并检测对象，然后将结果保存到 "runs/detect/predict" 目录中。

Ultralytics YOLO 和 Axelera AI 硬件可以发挥作用的场景#

接下来，我们来讨论一些常见的边缘 AI 应用场景，以及如何在实际环境中将 Ultralytics YOLO 模型部署到 Axelera AI 硬件上。

Axelera AI 的 Metis AIPU 面向多种部署环境设计，从嵌入式系统和工业 PC 到机器人和边缘服务器，均可适用。凭借高性能、能效出色的推理能力，它们可以支持各行业的计算机视觉应用直接在设备上运行。Voyager SDK 还包含一个流水线构建器，可帮助 ML 和应用工程师将模型产品化并部署到边缘端。

在边缘端运行的零售智能视觉系统#

在零售环境中，实时了解顾客行为会带来显著影响。

借助运行在 Axelera AI 硬件上的 Ultralytics YOLO 模型，商店可以监控客流量、统计人数，并实时分析店内人员的移动模式。由于所有处理都在设备上完成，因此无需依赖云连接即可即时生成洞察，帮助团队更快响应，同时保护数据隐私。

图 3. 使用 Ultralytics YOLO26 检测并统计商场中的人数

使用边缘 AI 检查公用设施和基础设施#

维护电力线等大型基础设施既复杂又耗费资源。这些网络通常延伸很远，导致检查耗时、成本高昂且可能存在危险。如果故障或早期磨损迹象未能及时发现，就可能演变成停电、设备损坏或安全风险。

无人机正越来越多地用于提高检查效率。它们可以覆盖很长的距离、到达难以触及的区域，并拍摄关键资产的高分辨率图像。

将无人机与边缘 AI 相结合，可进一步提升这些工作流程。运行在 Axelera AI 硬件上的 Ultralytics YOLO 模型能够在检查过程中进行实时分析，识别故障、分类组件并在现场检测异常。这减少了人工审核的需求，有助于更快速、更可靠地监控基础设施。

图 4. 使用 Ultralytics YOLO26 检测电力线的各个部件

借助实时视觉 AI 洞察赋能机器人#

对于机器人而言，速度和响应能力至关重要。无论是在仓库中导航，还是在动态工业环境中作业，机器人都需要即时理解周围环境。

运行在 Axelera AI 硬件上的 Ultralytics YOLO 模型让机器人能够实时理解周围环境，从检测障碍物到跟踪人员、识别物体。这使系统能够更安全地移动、适应动态变化的环境，并在无需持续连接云端的情况下实现更高程度的自主运行。

在 Metis AIPU 上运行 Ultralytics YOLO 模型的主要优势#

以下是通过全新集成在 Axelera AI Metis 硬件上部署 Ultralytics YOLO 模型的一些主要优势：

• 与 Ultralytics 工作流程集成：将 YOLO 模型导出以部署到 Metis，可以自然融入 Ultralytics Python 软件包，从而简化从训练到推理的过渡。
• 支持多种计算机视觉任务：你可以在 YOLOv8、YOLO11 和 YOLO26 上部署模型，用于目标检测、分割、分类、姿态估计等任务。
• 并行运行模型：Metis AIPU 采用四个可独立编程的核心，能够并行运行四个独立模型，以满足你的需求。
• 可扩展至各种边缘 AI 应用：从零售分析和工业检查到机器人和智能基础设施，这项集成支持广泛的现实应用场景。

要点#

Ultralytics YOLO 模型与 Axelera AI 的 Metis AIPU，让你更轻松地将高性能计算机视觉部署到边缘端。通过简化部署并针对专用硬件优化模型，这项集成有助于弥合开发与实际应用之间的差距。

随着边缘 AI 持续发展，高效、可扩展的部署选项将成为构建响应迅速、可靠系统的关键。这项合作迈出了一步，让各行各业都能更便捷地使用先进视觉 AI。

想进一步了解 AI？浏览我们的 GitHub 仓库，加入我们的社区，并查看我们的许可选项，开启你的计算机视觉项目。了解 AI 在零售业的应用和医疗保健领域的计算机视觉等创新如何塑造未来。