エッジAI向けにUltralytics YOLOモデルをAxelera AIハードウェアに対応

Ultralyticsでは、AIの普及に伴い、コンピュータービジョンモデルをエッジデバイス上で直接実行する動きが広がっていることを実感しています。オンラインや最近の技術カンファレンスでの対面など、コンピュータービジョンコミュニティとの交流を通じて、データが生成される場所の近くでビジョンAIを実行することへの関心が高まっていることを、私たちのチームは確認しています。

スマートリテール環境や産業オートメーションからロボティクスまで、リアルタイムの知見が不可欠になっており、クラウドだけに頼るのではもはや不十分です。

簡単に言えば、エッジAIとは、データを処理のために集中型サーバーへ送るのではなく、デバイス上でAIモデルをローカルに実行することです。これにより、レイテンシを低減し、信頼性を高め、現実世界のイベントにリアルタイムで対応できます。

ただし、こうした環境で高性能モデルをデプロイするには、特有の課題があります。計算リソースや電力に制約があるため、モデルには効率性と実行先ハードウェアに合わせた最適化の両方が求められます。

Ultralytics YOLO26などのUltralytics YOLOモデルは、リアルタイムのコンピュータービジョン向けに設計されていますが、エッジでその性能を最大限に引き出すには、適切なソフトウェアとハードウェアの組み合わせが必要です。そのため、Axelera AIとの協業を発表できることをうれしく思います。

Axelera AIと提携し、エクスポート連携を更新しました。これにより、Metis® AIプロセッシングユニット（AIPU）上でUltralytics YOLOモデルを効率的かつ高性能にデプロイできます。

図1. Metis AIプロセッシングユニットの外観（出典）

この記事では、Ultralytics YOLOモデルをMetis向けに簡単にコンパイルする方法を紹介します。それでは始めましょう。

エッジAIはコンピュータービジョンの未来です#

コンピュータービジョンアプリケーションの進化に伴い、より高速で効率的な処理の必要性がますます高まっています。従来のクラウドベースのアプローチでは、レイテンシが発生し、安定した接続に依存するうえ、多くのインテリジェントビジョンのユースケースで求められるリアルタイム性を満たせない場合があります。

エッジAIは、モデルをローカルデバイス上で直接実行し、データの発生源に近い場所で処理できるようにすることで、こうした課題に対応します。たとえば、捜索救助活動で使用されるビジョン搭載ドローンを考えてみましょう。

こうしたシステムでは、遠隔地などインターネット接続が限られている、あるいは利用できない環境でも、映像ストリームをリアルタイムに解析し、人や障害物、危険要因を検出する必要があります。ドローン上でコンピュータービジョンモデルを直接実行することで、エッジAIはクラウドインフラに依存せず、より迅速な意思決定と安定した性能を実現します。

この変化により、さまざまな業界で新たな可能性が生まれています。小売業でのリアルタイム物体検出、製造業での自動品質検査、ロボティクスでの認識などのアプリケーションは、応答の高速化と信頼性の向上というメリットを得られます。

エッジAIは、現実世界の環境でスケーラブルかつ応答性の高いコンピュータービジョンシステムをデプロイするための重要な基盤として、急速に普及しています。

Axelera AIのMetis AIプロセッシングユニットを紹介#

新しいエクスポート連携について詳しく見る前に、Axelera AIのMetis AIプロセッシングユニットについて理解を深め、効率的なエッジAIを実現するうえでの役割を確認しましょう。

Axelera AIは、エッジでのAI推論を高速化するために特化して設計された専用ハードウェアを開発しています。その中核となるのがMetis AIPU、すなわちAIプロセッシングユニットです。これは、エッジデバイス上でニューラルネットワークを効率的に実行するために設計された専用プロセッサです。

汎用の中央処理装置（CPU）やグラフィックス処理装置（GPU）とは異なり、AIPUはAIワークロード特有の計算パターンを処理するように設計されています。そのため、消費電力を抑えながら高い性能を発揮できます。リソースが限られることの多いエッジ環境では、これは重要な特長です。

Axelera AIのアプローチが特に革新的なのは、フルスタック設計を採用している点です。Metisは、エッジコンピューティングに求められる高いエネルギー効率と性能を実現するため、デジタルインメモリコンピューティング（D-IMC）とRISC-Vを採用しています。Metisの4つのコアは個別にプログラムできるため、1チップ上で4つのモデルを並列実行できます。ハードウェアに加えて、Voyager SDKにはコンパイラとランタイムが含まれており、連携してモデルをデプロイ向けに最適化します。

これにより、開発者は学習済みモデルから本番環境に対応した推論まで、より効率的に移行できます。具体的には、Metis AIPUを使うと、Ultralytics YOLOモデルのような高度なコンピュータービジョンモデルを、企業、小売、医療、製造の現場から農業、産業機器、衛星に至るまで、さまざまなエッジデバイス上で直接実行できます。

Metisへのデプロイに向けたUltralytics YOLOモデルのエクスポート#

Ultralytics Pythonパッケージは、さまざまなコンピュータービジョンタスクに対応したYOLOモデルの学習、評価、デプロイを統一的なインターフェースで行えます。YOLOモデルの開発と学習には、通常、実験やモデル開発に適したPyTorchを使用します。

ただし、こうしたモデルを専用エッジハードウェアにデプロイする際には、対象デバイスに最適化された形式に変換する必要があります。そこで役立つのが、Ultralytics Pythonパッケージがサポートするエクスポート連携です。

Ultralyticsでは、デプロイ先に応じてYOLOモデルをさまざまな形式に変換できる複数のエクスポートオプションを提供しています。たとえば、ONNX、TensorRT、その他のハードウェア固有のバックエンドに対応しています。これらの連携では、必要な最適化と変換の手順を処理するため、実環境のアプリケーションに向けたモデル準備を簡素化できます。

これを基盤として、UltralyticsはAxelera AIとのエクスポート連携を更新し、Metis AIPUへのデプロイに向けてYOLOモデルをエクスポートできるようにしました。

エクスポート時に、モデルはAxeleraハードウェア専用に設計された最適化表現へコンパイルおよび量子化されます。この処理により、デプロイと推論に必要なメタデータとともに、「.axm」形式のコンパイル済みモデルが生成されます。

図2. Ultralytics YOLOモデルはMetis AIPU上で実行できます。（出典）

この連携は、Ultralytics YOLOv8、Ultralytics YOLO11、Ultralytics YOLO26モデルで、物体検出、姿勢推定、インスタンスセグメンテーション、回転バウンディングボックス（OBB）検出、画像分類など、幅広いコンピュータービジョンタスクをサポートします。ほとんどのタスクはエクスポートワークフローで直接サポートされますが、YOLO26のセグメンテーションはVoyager SDKのモデル動物園から利用できます。

このサポートの拡充により、開発者はアプリケーションに応じて、リアルタイムの物体検出からシーン理解、動きの追跡、複雑な視覚データの解析まで、さまざまなビジョンモデルを柔軟にデプロイできます。

エクスポート後のモデルは、推論時にPyTorchに依存せずにデプロイして実行できます。代わりにVoyager SDKランタイムで実行され、エッジデバイス上で直接、動画処理、リアルタイム検出、追跡などのタスク向けにエンドツーエンドのパイプラインを構築できます。

Ultralytics YOLOモデルのエクスポートを始める#

新しいエクスポート連携について理解が深まったところで、Ultralytics YOLOモデルをこの専用形式にエクスポートし、エッジのMetisハードウェア上で実行する方法を順に見ていきましょう。

ステップ1：Ultralytics Pythonパッケージをインストールする#

まず、Ultralytics Pythonパッケージをインストールします。このパッケージを使うと、YOLOモデルの学習、評価、エクスポートをシンプルで一貫性のあるインターフェースで行えます。

ターミナルまたはコマンドプロンプトで次のコマンドを実行し、pipを使ってインストールできます。

pip install ultralytics

インストールやエクスポート中に問題が発生した場合は、公式のUltralyticsドキュメントとよくある問題のガイドがトラブルシューティングに役立ちます。

ステップ2：AxeleraドライバーとVoyager SDKをインストールする#

Axeleraハードウェア上でモデルをエクスポートして実行するには、AxeleraドライバーとVoyager SDKもインストールする必要があります。この手順によってMetis AIPUとの通信が可能になり、必要なランタイムとコンパイラツールが提供されます。

以下の手順は、Axelera AI MetisハードウェアにアクセスできるLinux環境で実行してください。システムのターミナルを開くか、互換性のあるローカル環境でJupyter Notebookを実行している場合はノートブックのセルを使用し、以下のコマンドを実行します。

まず、次のようにAxeleraリポジトリのキーを追加します。

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

次に、以下のようにAxeleraリポジトリをシステムに追加します。

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

続いて、以下のようにVoyager SDKをインストールし、Metisドライバーをロードします。

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

これらの手順が完了すると、Axelera AI Metisデバイス上でUltralytics YOLOモデルをエクスポートして実行する準備が整います。

ステップ3：Ultralytics YOLOモデルをエクスポートする#

Ultralyticsパッケージをインストールしたら、YOLOモデルを読み込み、Metis向けのコンパイル済みパッケージとしてエクスポートできます。この処理により、モデルはAxelera AI Metisハードウェアへのデプロイに最適化された形式に変換されます。

以下の例では、学習済みのYOLO26 nanoモデルをMetis向けにエクスポートします。エクスポートしたモデルは「/yolo26n_axelera_model」という名前のディレクトリに保存されます。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

ステップ4：エクスポートしたモデルで推論を実行する#

モデルをエクスポートした後、モデルを読み込み、未見の画像や動画ストリームで推論を実行できます。これにより、Axelera AI Metisデバイス上でコンピュータービジョンタスクを直接リアルタイムに実行できます。

たとえば、以下のコードスニペットでは、エクスポートしたモデルを読み込み、一般公開されているURL上のデータに対して推論を実行する方法を示します。

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

この場合、モデルは入力画像を解析して物体を検出し、結果を「runs/detect/predict」ディレクトリに保存します。

Ultralytics YOLOとAxelera AIハードウェアが活躍する場面#

次に、Ultralytics YOLOモデルをAxelera AIハードウェア上にデプロイし、実環境で活用できる代表的なエッジAIアプリケーションをいくつか見ていきましょう。

Axelera AIのMetis AIPUは、組み込みシステムや産業用PCから、ロボティクス、エッジサーバーまで、幅広いデプロイ環境向けに設計されています。高性能かつエネルギー効率に優れた推論により、さまざまな業界のコンピュータービジョンアプリケーションをデバイス上で直接実行できます。Voyager SDKには、MLエンジニアやアプリケーションエンジニアがエッジ向けモデルを製品化するためのパイプラインビルダーも含まれています。

エッジで動作する小売業向けスマートビジョンシステム#

小売環境では、顧客の行動をリアルタイムに把握することで、大きな違いを生み出せます。

Axelera AIハードウェア上で動作するUltralytics YOLOモデルを使うと、店舗は来店者の通行状況を監視し、人数を数え、店内の移動パターンをリアルタイムに解析できます。すべての処理がデバイス上で完結するため、クラウド接続に依存せずに即座に知見を得られます。データのプライバシーを維持しながら、チームがより迅速に対応できるようになります。

図3. Ultralytics YOLO26を使用したショッピングモールでの人物検出と人数カウント

エッジAIを活用した電力設備・インフラ点検#

送電線などの大規模インフラの維持管理は複雑で、多くのリソースを必要とします。こうしたネットワークは広範囲に及ぶことが多く、点検には時間と費用がかかり、危険を伴う場合もあります。故障や初期の劣化の兆候を見逃すと、停電、設備の損傷、安全上のリスクにつながる可能性があります。

点検の効率を高めるため、ドローンの活用が広がっています。ドローンは長距離を移動し、アクセスしにくい場所に到達して、重要設備の高解像度画像を撮影できます。

ドローンとエッジAIを組み合わせることで、こうした作業フローをさらに強化できます。Axelera AIハードウェア上で動作するUltralytics YOLOモデルは、点検中にリアルタイム解析を行い、現場で故障を特定し、部品を分類し、異常を検出できます。これにより、手作業による確認の必要性が減り、より迅速で信頼性の高いインフラ監視が可能になります。

図4. Ultralytics YOLO26を使用した送電線の各部位の検出

リアルタイムのビジョンAIによる知見でロボティクスを強化#

ロボティクスでは、速度と応答性が重要です。倉庫内の移動でも、変化の激しい産業環境での稼働でも、ロボットは周囲の状況を即座に把握する必要があります。

Axelera AIハードウェア上で動作するUltralytics YOLOモデルを使うと、ロボットは障害物の検出から人物の追跡、物体の識別まで、周囲の状況をリアルタイムに把握できます。これにより、クラウドへの常時接続に依存することなく、システムはより安全に移動し、変化する状況に適応し、自律性を高めて稼働できます。

Metis AIPU上でUltralytics YOLOモデルを実行する主なメリット#

新しい連携を使用してUltralytics YOLOモデルをAxelera AIのMetisハードウェアにデプロイする主なメリットをいくつか紹介します。

• **Ultralyticsワークフローとのシームレスな連携：**Metisへのデプロイに向けたYOLOモデルのエクスポートは、Ultralytics Pythonパッケージに自然に組み込まれており、学習から推論への移行を簡素化します。
• **複数のコンピュータービジョンタスクをサポート：**YOLOv8、YOLO11、YOLO26を使って、物体検出、姿勢推定、セグメンテーション、分類などのモデルをデプロイできます。
• **モデルの並列実行：**Metis AIPUには個別にプログラムできる4つのコアがあり、ニーズに応じて4つの独立したモデルを並列実行できます。
• **幅広いエッジAIアプリケーションに対応：**小売分析や産業点検からロボティクス、スマートインフラまで、この連携は多様な実環境のユースケースをサポートします。

主なポイント#

Ultralytics YOLOモデルとAxelera AIのMetis AIPUを組み合わせると、高性能なコンピュータービジョンをエッジでより簡単に実現できます。デプロイを簡素化し、専用ハードウェア向けにモデルを最適化することで、この連携は開発と実環境のアプリケーションとの隔たりを埋めるのに役立ちます。

エッジAIの普及が進むなか、応答性と信頼性に優れたシステムを構築するには、効率的でスケーラブルなデプロイオプションが鍵となります。この協業は、高度なビジョンAIをさまざまな業界で利用しやすくするための一歩です。

AIについて詳しく知りたいですか？GitHubリポジトリを確認し、コミュニティに参加して、コンピュータービジョンプロジェクトを始めるためのライセンスオプションをご覧ください。小売業におけるAIや医療におけるコンピュータービジョンなどのイノベーションが、未来をどのように形作っているかをご確認ください。