Axelera AIはUltralytics YOLOを使用して34 FPSのエッジAI推論を実現します

Axelera AIは、エッジでのコンピュータビジョン実行に向けた強力でエネルギー効率の高いAIチップを開発するヨーロッパの半導体企業です。例えば、同社のMetis AI Processing Units（AIPU）は、リテール、セキュリティ、製造業などの業界で使用されています。

顧客がAIアプリケーションをより簡単に構築・デプロイできるようにするため、AxeleraはUltralytics YOLO modelsをVoyager SDKに統合しました。これは、Metis AIPU上でのモデルの最適化、デプロイ、およびアクセラレーションを効率化するソフトウェアプラットフォームであり、リアルタイムVision AIをより速く、よりシンプルに、そしてよりスケーラブルにします。

Vision AIハードウェアアクセラレーションの再定義#

2021年に設立されオランダに拠点を置くAxelera AIは、従来のAIハードウェアはエッジではなくクラウド向けに構築されているという根本的な課題を解決することを目指しました。このギャップを埋めるため、同社はMetis AIPUを開発しました。

これは、エッジワークロード（速度、プライバシー、エネルギー効率が不可欠なデバイス上でローカルに実行されるAIタスク）専用に設計された、高性能で低消費電力のチップです。

このチップは、独自のDigital In-Memory Compute (D-IMC)技術によって支えられており、データが保存されている場所で直接処理を行うことを可能にし、レイテンシとエネルギー消費を劇的に削減します。完全に統合されたソフトウェアスタックとAIの民主化というミッションにより、Axeleraは高性能AIをより身近なものにしています。

エッジAIハードウェア上でモデルを実行する際の課題#

エッジでシームレスなAIエクスペリエンスを提供するため、Axelera AIは高性能なハードウェア以上のものを提供することを目指しました。顧客はまた、複雑なツールや時間のかかるカスタマイズを伴わずに、リアルタイムのcomputer visionソリューションを実行するためのシンプルで信頼性の高い方法を求めていました。既存のモデルの多くは、サイズが大きすぎるか、速度が遅すぎるか、あるいはリソースが制限された環境に適していませんでした。

小売分析、工場自動化、および監視システムは、業務をサポートするために高速で正確な視覚的インサイトに依存することがよくあります。しかし、従来のモデルやクラウドベースのソリューションでは、これらのエッジAIアプリケーションに求められる低レイテンシ、エネルギー効率、およびオンデバイス処理の要件を満たすことが困難な場合があります。

Axeleraは、正確で実装が容易であり、かつ自社のMetis AI Processing Unit上で効率的に実行できるモデルスイートを探し始めました。最適なソリューションは、ハードウェアの機能を補完し、開発を簡素化し、広範なエッジAIのユースケース全体でデプロイを加速させるはずです。

Ultralytics YOLOによるエッジでのAI推論の加速#

Axelera AIは、エッジAIアプリケーションの構築とデプロイをより速く、より簡単で、よりスケーラブルにするために、Ultralytics YOLO modelsをVoyager SDKに統合しました。このSDKには、すぐに使用できるYOLOモデルを備えたModel Zooが含まれており、前処理、推論、後処理を含むパイプライン全体を自動化し、Metis AI Processing Units向けに最適化されています。

図1. Metis AI Processing Unit (AIPU)。

この統合により、顧客はトレーニング済みのUltralytics YOLOモデルをすぐに使用したり、独自のモデルを持ち込んだりすることができ、エッジハードウェア上でシームレスに加速できます。並列およびカスケード式のモデル実行をサポートすることで、Metis AIPUはポーズ推定の後にセグメンテーションを行うといった高度なマルチモデル設定を可能にします。これは、小売、セキュリティ、産業自動化における複雑なタスクに最適です。

Ultralytics YOLO modelsがサポートするリアルタイムのcomputer vision tasksと、Axeleraの効率的なハードウェアおよびソフトウェアスタックの組み合わせにより、ワットあたりおよびドルあたりで卓越したパフォーマンスが実現します。顧客にとってこれは、より正確な結果、より迅速なデプロイ、そしてエッジでのVision AIスケーリングのハードル低下を意味します。

なぜUltralytics YOLOモデルが選ばれるのか#

Axelera AIは、精度、速度、および使いやすさの卓越したバランスを理由に、Ultralytics YOLOモデルをプラットフォームに統合するためにUltralyticsとパートナーシップを締結しました。複数のUltralytics YOLOバリアントのサポートにより、Axelera AIの顧客は、Metis AIPU上で幅広いワークロードとパフォーマンスニーズを評価できます。

Ultralytics Enterprise Licenseを通じて、Axeleraは評価と開発のためにYOLOモデルのフルスイートへのアクセスを提供します。商用デプロイの場合、顧客はライセンスフォーム経由でUltralyticsから直接独自のライセンスを取得する必要があり、これによりコンプライアンスの確保とエッジでのVision AIにおけるスケーラブルなイノベーションのサポートが実現します。

Axelera AIのVoyager SDKを使用してUltralytics YOLOモデルを大規模に活用する#

Ultralytics YOLOモデルとAxelera AIのVoyager SDKを使用することで、ユーザーは正確で低レイテンシのコンピュータビジョンアプリケーションをMetis AI Processing Unit上で直接デプロイできます。また、複数のYOLOバリアントにアクセスできるため、顧客はアプリケーションの特定のニーズに基づいてパフォーマンスを調整できます。

例えば、Axelera AIでは、顧客が以下のようなさまざまなドメインでYOLOを活用したソリューションをテストしている事例が見られます。

• 小売: ポーズ推定、セグメンテーション、オブジェクト検出を組み合わせたマルチモデルパイプラインは、ロス削減や在庫追跡などのタスクをサポートするために使用できます。これらのデプロイメントは、Metis AIPUとペアになったRaspberry Pi 5のような組み込みプラットフォーム上で効率的に実行されます。
• 製造: 顧客は並列モデル実行を利用して、欠陥検出、製品分類、ポーズ推定などの同時タスクを単一のチップ上で実行し、スループットを向上させ、ハードウェアコストを削減できます。
• 監視: YOLOのリアルタイムのobject detection機能は、4Kおよび8Kビデオストリームをフル解像度で分析するために使用でき、重要環境における高精度の安全監視と状況認識を容易にします。これは、高解像度カメラでの従来のダウンスケーリングよりもはるかに優れたソリューションです。
• ヘルスケア: 最適化されたYOLOパイプラインは腫瘍の識別をサポートし、オンデバイスでの医療画像処理において高い推論速度と信頼性の高い精度を提供します。

これらのユースケースは、Axelera AIのエッジAIハードウェアとUltralytics YOLOモデルが、いかにして業界全体で高性能かつエネルギー効率の高いVision AIイノベーションを強化しているかを示しています。

Ultralytics YOLOでエッジAIの次の波を牽引する#

Axelera AIが引き続き高性能なエッジAIへのアクセスの拡大に注力する中で、強力なハードウェアと信頼性の高いVisionモデルを結集し、顧客がよりスマートで高速なアプリケーションを構築できるよう支援しています。

Voyager SDKおよびMetis AIPU hardwareを通じて利用可能なUltralytics YOLO modelsを使用することで、ユーザーはさまざまな産業にわたってリアルタイムのコンピュータビジョンソリューションを簡単に開発およびスケールできます。このコラボレーションは、データが生成される場所にAIを近づけ、エッジでの効率、応答性、およびイノベーションを向上させることに取り組む、成長中の開発者および企業コミュニティをサポートします。

エッジAIの旅を加速する準備はできていますか？GitHub repositoryを探索して、YOLOモデルがAI in retailやcomputer vision in logisticsなどのイノベーションをどのように推進しているかをご確認ください。Vision AIツールを実際に試し、licensing optionsについて学び、エッジで高性能かつエネルギー効率の高いコンピュータビジョンをどのように解放できるかを発見してください。