エッジAIのためにUltralytics YOLOモデルをAxelera AIハードウェアで活用

Ultralytics では、AI の普及が進むにつれて、computer vision models をエッジデバイス上で直接実行する方向へのシフトが加速しています。オンラインでの対話や最近のテックカンファレンスでの対面を通じて、コンピュータビジョンコミュニティとの会話の中でも、私たちのチームはデータが生成される場所の近くでビジョン AI をデプロイすることに対する関心の高まりを目の当たりにしています。

スマートリテール環境や産業オートメーションからロボティクスに至るまで、リアルタイムのインサイト（洞察）が不可欠となっており、クラウドだけに頼る手法ではもはや十分ではありません。

edge AI とは、簡単に言えば、データを処理するために集中型サーバーへ送信する代わりに、デバイス上でローカルに AI モデルを実行することを指します。これにより、レイテンシーの削減、信頼性の向上、現実世界のイベントへのリアルタイムな応答が可能になります。

しかし、これらの環境で高性能モデルを展開することには特有の課題があります。限られた計算リソースと電力の制約により、モデルは効率的であると同時に、動作させるハードウェアに合わせて最適化されていなければなりません。

Ultralytics YOLO26 などの Ultralytics YOLO モデルはリアルタイムのコンピュータビジョン向けに設計されていますが、エッジでそのポテンシャルを最大限に引き出すには、ソフトウェアとハードウェアの適切な組み合わせが必要です。そのため、私たちは Axelera AI との協業を発表できることを嬉しく思います。

私たちは Axelera AI と提携してアップデートされたエクスポート統合を導入し、Ultralytics YOLO モデルを Metis® AI Processing Units (AIPUs) 上で効率的かつ高性能にデプロイできるようにしました。

図 1: Metis AI Processing Unit の外観 (Source)

この記事では、Ultralytics YOLOモデルをMetis展開用に簡単にコンパイルする方法を探ります。それでは始めましょう！

エッジAIはコンピュータビジョンの未来です#

コンピュータビジョンのアプリケーションが進化し続ける中、より高速で効率的な処理へのニーズがますます重要になっています。従来のクラウドベースのアプローチでは遅延が発生したり、安定した接続に依存したりすることがあり、多くのインテリジェントなビジョン活用事例においてリアルタイムの要求を満たせない可能性があります。

エッジ AI は、モデルをローカルデバイス上で直接実行できるようにし、データの発生源の近くで処理を行うことで、これらの課題に対処します。例えば、捜索救助活動で使用される vision-powered drones を考えてみてください。

これらのシステムは、人、障害物、または危険を検出するためにビデオフィードをリアルタイムで分析する必要があり、多くの場合、インターネット接続が制限されているか、まったくない遠隔地で動作します。コンピュータビジョンモデルをドローン上で直接実行することで、エッジAIはクラウドインフラに頼ることなく、より迅速な意思決定と信頼性の高いパフォーマンスを実現します。

この転換は、業界全体で新たな可能性を切り開いています。小売業におけるリアルタイムの物体検出、製造業における自動品質検査、ロボティクスにおける認識など、あらゆるアプリケーションが、応答時間の短縮と信頼性の向上から恩恵を受けています。

エッジAIは、現実世界においてスケーラブルかつ応答性の高いコンピュータビジョンシステムを展開するための重要な手段となりつつあります。

Axelera AIのMetis AI Processing Unitsを探る#

新しいエクスポート統合について説明する前に、少し立ち止まって、Axelera AI の Metis AI Processing Units と、効率的なエッジ AI の実現においてそれらが果たす役割について詳しく見ていきましょう。

Axelera AIは、エッジでのAI推論を加速するために特別に設計された専用ハードウェアを開発しています。その核心となるのが、エッジデバイス上でニューラルネットワークを効率的に実行するために構築された特殊プロセッサ、Metis AIPU（AI Processing Unit）です。

汎用的な中央処理装置（CPU）やグラフィックス処理装置（GPU）とは異なり、AIPUはAIワークロード特有の計算パターンを処理するように設計されています。これにより、リソースが限られがちなエッジ環境において重要な、低消費電力を維持しながら高いパフォーマンスを実現できます。

Axelera AIのアプローチが特に革新的であるのは、そのフルスタック設計にあります。Metisは、エッジコンピューティングが求める高いパフォーマンスとエネルギー効率を実現するために、デジタル・インメモリ・コンピューティング（D-IMC）とRISC-Vで構築されています。Metisの4つのコアは個別にプログラム可能であり、チップごとに4つのモデルを並列で実行できます。ハードウェアに加えて、Voyager SDKにはコンパイラとランタイムが含まれており、これらが連携して展開用のモデルを最適化します。

これにより、開発者はトレーニング済みモデルから本番環境の推論へより効率的に移行できます。具体的には、Metis AIPUを使用することで、エンタープライズ、小売、ヘルスケア、製造環境から、農業、産業機器、衛星に至るまで、エッジデバイス上でUltralytics YOLOモデルのような高度なコンピュータビジョンモデルを直接実行することが可能になります。

Metis展開に向けたUltralytics YOLOモデルのエクスポート#

Ultralytics Python package は、さまざまなコンピュータビジョンタスクにわたって YOLO モデルのトレーニング、評価、およびデプロイを行うための統合インターフェースを提供します。YOLO モデルは通常、実験やモデル開発に適した PyTorch を使用して開発およびトレーニングされます。

しかし、これらのモデルを特殊なエッジハードウェアにデプロイする場合、ターゲットデバイス向けに最適化されたフォーマットに変換する必要があります。ここで、Ultralytics Python package がサポートする export integrations が役立ちます。

Ultralyticsは、展開ターゲットに応じてYOLOモデルをONNX、TensorRT、およびその他のハードウェア固有のバックエンドなどの異なる形式へ変換できる多様なエクスポートオプションを提供しています。これらの統合機能は、必要な最適化と変換手順を処理することで、実社会のアプリケーション向けにモデルを準備するプロセスを簡素化します。

これを基盤として、Ultralytics は Axelera AI とのアップデートされたエクスポート integration with Axelera AI を導入し、YOLO モデルを Metis AIPUs でのデプロイ用にエクスポートできるようにしました。

エクスポート中、モデルはAxeleraハードウェア専用に設計された最適化表現へとコンパイルおよび量子化されます。このプロセスにより、展開と推論に必要なメタデータとともに、".axm"形式のコンパイル済みモデルが生成されます。

図 2: Ultralytics YOLO モデルは Metis AIPUs 上で実行できます。(Source)

この統合は、Ultralytics YOLOv8、Ultralytics YOLO11、および Ultralytics YOLO26 モデルにわたり、オブジェクト検出、姿勢推定、インスタンスセグメンテーション、方向付きバウンディングボックス (OBB) 検出、画像分類を含む幅広いコンピュータビジョンタスクをサポートしています。ほとんどのタスクはエクスポートワークフローを通じて直接サポートされますが、YOLO26 セグメンテーションは Voyager SDK を使用して model zoo 経由で利用できます。

この拡張されたサポートにより、開発者はリアルタイムの物体検出からシーン理解、動きの追跡、複雑な視覚データの分析まで、アプリケーションに応じて異なる種類のビジョンモデルを柔軟に展開できるようになります。

エクスポート後は、推論時にPyTorchに依存することなくモデルを展開・実行できます。代わりに、Voyager SDKランタイムを使用して実行され、このランタイムはビデオ処理、リアルタイム検出、追跡といったタスクのエンドツーエンドパイプラインをエッジデバイス上で直接構築することをサポートしています。

Ultralytics YOLOモデルのエクスポートを始める#

新しいエクスポート統合についての理解が深まったところで、Ultralytics YOLOモデルをこのカスタム形式へエクスポートし、エッジのMetisハードウェア上で実行する手順を見ていきましょう。

ステップ1：Ultralytics Pythonパッケージのインストール#

開始するには、まずUltralytics Pythonパッケージをインストールする必要があります。これは、YOLOモデルのトレーニング、評価、エクスポートのためのシンプルで一貫したインターフェースを提供します。

ターミナルまたはコマンドプロンプトで以下のコマンドを実行して、pipを使用してインストールできます。

pip install ultralytics

インストールやエクスポート中に問題が発生した場合は、公式の Ultralytics documentation と Common Issues guide がトラブルシューティングに優れたリソースとなります。

ステップ2: AxeleraドライバとVoyager SDKのインストール#

Axeleraハードウェアへモデルをエクスポートして実行するには、AxeleraドライバとVoyager SDKもインストールする必要があります。このステップにより、Metis AIPUとの通信が可能になり、必要なランタイムおよびコンパイラツールが提供されます。

以下の手順は、Axelera AI MetisハードウェアにアクセスできるLinux環境で実行する必要があります。システムでターミナルを開くか、互換性のあるローカルセットアップでJupyter Notebookを実行している場合はノートブックセルを使用して、以下のコマンドを実行してください。

まず、次のようにAxeleraリポジトリキーを追加します。

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

次に、以下に示すように、システムへAxeleraリポジトリを追加します。

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

その後、次のようにVoyager SDKをインストールし、Metisドライバをロードします。

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

これらの手順が完了すると、システムでUltralytics YOLOモデルをAxelera AI Metisデバイスへエクスポートして実行する準備が整います。

ステップ3: Ultralytics YOLOモデルのエクスポート#

Ultralyticsパッケージがインストールされたら、YOLOモデルをロードし、Metis用にコンパイルされたパッケージとしてエクスポートできます。このプロセスにより、モデルはAxelera AI Metisハードウェアへの展開に最適化された形式へ変換されます。

以下の例では、学習済みのYOLO26 nanoモデルを使用し、Metis用にエクスポートします。エクスポートされたモデルは"/yolo26n_axelera_model"というディレクトリに保存されます。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

ステップ4: エクスポート済みモデルでの推論実行#

モデルのエクスポート後、それをロードして未確認の画像やビデオストリームで推論を実行できます。これにより、Axelera AI Metisデバイス上でリアルタイムのコンピュータビジョンタスクが直接可能になります。

例えば、以下のコードスニペットは、エクスポートされたモデルをロードし、公開されているURLに対して推論を実行する方法を示しています。

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

この場合、モデルは入力画像を分析して物体を検出し、結果を"runs/detect/predict"ディレクトリに保存します。

Ultralytics YOLOとAxelera AIハードウェアが影響を与えられる場所#

次に、現実世界のシナリオにおいてUltralytics YOLOモデルをAxelera AIハードウェアに展開できる、一般的なエッジAIアプリケーションについて説明します。

Axelera AIのMetis AIPUは、組み込みシステムや産業用PCからロボティクスやエッジサーバーまで、幅広い展開環境向けに設計されています。高性能でエネルギー効率に優れた推論により、業界全体でビジョンAIアプリケーションをデバイス上で直接実行可能にします。また、Voyager SDKにはMLエンジニアやAPPエンジニアがモデルをエッジ向けに製品化するためのパイプラインビルダーが含まれています。

小売店におけるエッジ動作のスマートビジョンシステム#

小売環境において、顧客行動をリアルタイムで理解することは大きな違いを生む可能性があります。

Axelera AIハードウェア上で動作するUltralytics YOLOモデルを使用することで、店舗は来店客数、人流、店舗内での動きのパターンをリアルタイムで監視・分析できます。すべてがデバイス上で動作するため、クラウド接続に依存せず瞬時にインサイトを生成でき、チームはデータプライバシーを維持しながらより迅速に対応できるようになります。

図 3. Ultralytics YOLO26 を使用してモール内の人々を検知およびカウントしています

ユーティリティおよびインフラ点検のためのエッジAI活用#

送電線などの大規模インフラの保守は複雑で、多くのリソースを必要とします。これらのネットワークは広大な距離に及ぶことが多く、点検には時間とコストがかかり、危険を伴う可能性もあります。障害や劣化の兆候が未発見のままになると、停電、機器の損傷、または安全上のリスクへと発展する可能性があります。

点検効率を向上させるためにドローンがますます活用されています。ドローンは長距離を移動し、到達困難なエリアにアクセスし、重要な資産の高解像度画像を撮影できます。

ドローンとエッジAIを組み合わせることで、これらのワークフローはさらに強化されます。Axelera AIハードウェア上で動作するUltralytics YOLOモデルは、点検中のリアルタイム分析を可能にし、現場での障害箇所の特定、コンポーネントの分類、異常の検出をサポートします。これにより、手動レビューの必要性が減り、より迅速で信頼性の高いインフラ監視が可能になります。

図 4. Ultralytics YOLO26 を使用して送電線のさまざまな部分を検知しています

リアルタイムのビジョンAIインサイトでロボティクスを強化#

ロボティクスにおいて、速度と応答性は極めて重要です。倉庫内を移動する場合でも、動的な産業環境で作業する場合でも、ロボットは周囲の状況を即座に解釈する必要があります。

Axelera AIハードウェア上で動作するUltralytics YOLOモデルを使用すると、ロボットは障害物の検出から人の追跡、物体の識別まで、周囲の状況をリアルタイムで解釈できます。これにより、システムはより安全に移動し、動的な状況に適応し、常にクラウド接続に依存することなく高い自律性で動作できるようになります。

Metis AIPUでUltralytics YOLOモデルを実行する主な利点#

新しい統合機能を使用してAxelera AIのMetisハードウェアへUltralytics YOLOモデルを展開する主な利点は以下の通りです。

• Ultralyticsワークフローとのシームレスな統合: Metis展開用のYOLOモデルのエクスポートはUltralytics Pythonパッケージに自然に組み込まれており、トレーニングから推論への移行を簡素化します。
• 複数のコンピュータビジョンタスクのサポート: YOLOv8、YOLO11、およびYOLO26を通じて、物体検出、姿勢推定、セグメンテーション、分類などのモデルを展開できます。
• モデルの並列実行: Metis AIPUは、ニーズに合わせて4つの別々のモデルを並列で実行可能な4つの独立したプログラム可能コアを備えて設計されています。
• エッジAIアプリケーション全体でスケーラブル: 小売分析や産業用点検から、ロボティクスやスマートインフラに至るまで、この統合機能は幅広い実世界のユースケースをサポートします。

重要なポイント#

Ultralytics YOLOモデルとAxelera AIのMetis AIPUにより、高性能なコンピュータビジョンをエッジへより簡単に導入できます。この統合は、展開を簡素化し、専門ハードウェア向けにモデルを最適化することで、開発と現実世界のアプリケーションの間のギャップを埋めるのに役立ちます。

エッジAIが成長し続ける中で、効率的でスケーラブルな展開オプションを持つことが、応答性が高く信頼性の高いシステムを構築するための鍵となります。このコラボレーションは、高度なビジョンAIを業界全体でより利用しやすくするための一歩です。

AI についてもっと知りたいですか？GitHub repository を探索し、our community とつながり、our licensing options をチェックしてコンピュータビジョンプロジェクトをスタートさせましょう。AI in retail や computer vision in healthcare のようなイノベーションがどのように未来を形作っているかを見つけてください。