Axelera AIはUltralytics YOLOを使用して34 FPSのエッジAI推論を実現します

Axelera AIは、エッジでコンピュータビジョンを実行するための高性能でエネルギー効率の高いAIチップを構築する欧州の半導体企業です。例えば、同社のMetis AI Processing Unit (AIPU)は、小売、セキュリティ、製造などの業界で使用されています。

顧客がAIアプリケーションをより容易に構築・デプロイできるようにするため、AxeleraはUltralytics YOLOモデルを同社のVoyager SDKに統合しました。このソフトウェアプラットフォームは、Metis AIPU上でのモデルの最適化、デプロイ、および高速化を効率化し、リアルタイムVision AIをより高速、シンプル、かつスケーラブルにします。

Link to this sectionVision AIハードウェアアクセラレーションの再定義#

2021年に設立され、オランダに拠点を置くAxelera AIは、根本的な問題の解決に着手しました。それは、従来のAIハードウェアがクラウド向けに構築されており、エッジ向けではなかったという点です。このギャップを埋めるために、同社はMetis AIPUを開発しました。

これは、エッジワークロード（速度、プライバシー、エネルギー効率が不可欠なデバイス上でローカルに実行されるAIタスク）専用に設計された、高性能で低消費電力のチップです。

このチップは、独自のDigital In-Memory Compute (D-IMC)技術によって支えられており、データが保存されている場所で直接処理を行うことを可能にし、レイテンシとエネルギー消費を劇的に削減します。完全に統合されたソフトウェアスタックとAIの民主化というミッションにより、Axeleraは高性能AIをより身近なものにしています。

Link to this sectionエッジAIハードウェア上でモデルを実行する際の課題#

エッジでシームレスなAI体験を提供するために、Axelera AIは高性能ハードウェア以上のものを提供することを目指しました。顧客は、複雑なツールや時間のかかるカスタマイズを必要としない、リアルタイムのコンピュータビジョンソリューションを実行するためのシンプルで信頼性の高い方法も求めていました。多くの既存モデルは、サイズが大きすぎる、動作が遅すぎる、またはリソースが制限された環境に適していないといった課題がありました。

小売分析、工場自動化、および監視システムは、業務をサポートするために高速で正確な視覚的インサイトに依存することがよくあります。しかし、従来のモデルやクラウドベースのソリューションでは、これらのエッジAIアプリケーションに求められる低レイテンシ、エネルギー効率、およびオンデバイス処理の要件を満たすことが困難な場合があります。

Axeleraは、正確で実装が容易であり、かつ自社のMetis AI Processing Unit上で効率的に実行できるモデルスイートを探し始めました。最適なソリューションは、ハードウェアの機能を補完し、開発を簡素化し、広範なエッジAIのユースケース全体でデプロイを加速させるはずです。

Link to this sectionUltralytics YOLOによるエッジでのAI推論の加速#

Axelera AIは、エッジAIアプリケーションの構築とデプロイをより速く、より簡単に、よりスケーラブルにするために、Ultralytics YOLOモデルをVoyager SDKに統合しました。このSDKには、すぐに使えるYOLOモデルを備えたModel Zooが含まれており、Metis AI Processing Unit向けに最適化された前処理、推論、後処理を含むパイプライン全体を自動化します。

図1. Metis AI Processing Unit (AIPU)。

この統合により、顧客はトレーニング済みのUltralytics YOLOモデルをすぐに使用したり、独自のモデルを持ち込んだりすることができ、エッジハードウェア上でシームレスに加速できます。並列およびカスケード式のモデル実行をサポートすることで、Metis AIPUはポーズ推定の後にセグメンテーションを行うといった高度なマルチモデル設定を可能にします。これは、小売、セキュリティ、産業自動化における複雑なタスクに最適です。

Ultralytics YOLOモデルがサポートするリアルタイムのコンピュータビジョンタスクと、Axeleraの効率的なハードウェアおよびソフトウェアスタックの組み合わせは、ワットあたり、およびコストあたりで卓越したパフォーマンスを提供します。顧客にとって、これはより正確な結果、迅速なデプロイ、そしてエッジでVision AIをスケールさせる際の障壁の低減を意味します。

Link to this sectionなぜUltralytics YOLOモデルが選ばれるのか#

Axelera AIは、精度、速度、および使いやすさの卓越したバランスを理由に、Ultralytics YOLOモデルをプラットフォームに統合するためにUltralyticsとパートナーシップを締結しました。複数のUltralytics YOLOバリアントのサポートにより、Axelera AIの顧客は、Metis AIPU上で幅広いワークロードとパフォーマンスニーズを評価できます。

Ultralytics Enterprise Licenseを通じて、Axeleraは評価および開発用にYOLOモデルのフルスイートへのアクセスを提供しています。商用デプロイの場合、顧客はコンプライアンスを確保し、エッジでのVision AIにおけるスケーラブルなイノベーションをサポートするため、ライセンスフォームを通じてUltralyticsから直接独自のライセンスを取得する必要があります。

Link to this sectionAxelera AIのVoyager SDKを使用してUltralytics YOLOモデルを大規模に活用する#

Ultralytics YOLOモデルとAxelera AIのVoyager SDKを使用することで、ユーザーは正確で低レイテンシのコンピュータビジョンアプリケーションをMetis AI Processing Unit上で直接デプロイできます。また、複数のYOLOバリアントにアクセスできるため、顧客はアプリケーションの特定のニーズに基づいてパフォーマンスを調整できます。

例えば、Axelera AIでは、顧客が以下のようなさまざまなドメインでYOLOを活用したソリューションをテストしている事例が見られます。

• 小売: ポーズ推定、セグメンテーション、オブジェクト検出を組み合わせたマルチモデルパイプラインは、ロス削減や在庫追跡などのタスクをサポートするために使用できます。これらのデプロイメントは、Metis AIPUとペアになったRaspberry Pi 5のような組み込みプラットフォーム上で効率的に実行されます。
• 製造: 顧客は並列モデル実行を利用して、欠陥検出、製品分類、ポーズ推定などの同時タスクを単一のチップ上で実行し、スループットを向上させ、ハードウェアコストを削減できます。
• 監視: YOLOのリアルタイムのオブジェクト検出機能を使用して、4Kおよび8Kのビデオストリームをフル解像度で分析し、重要な環境における高精度な安全監視と状況認識を促進できます。これは、高解像度カメラでの従来のダウンスケーリングよりもはるかに優れたソリューションです。
• ヘルスケア: 最適化されたYOLOパイプラインは腫瘍の識別をサポートし、オンデバイスでの医療画像処理において高い推論速度と信頼性の高い精度を提供します。

これらのユースケースは、Axelera AIのエッジAIハードウェアとUltralytics YOLOモデルが、いかにして業界全体で高性能かつエネルギー効率の高いVision AIイノベーションを強化しているかを示しています。

Link to this sectionUltralytics YOLOでエッジAIの次の波を牽引する#

Axelera AIが引き続き高性能なエッジAIへのアクセスの拡大に注力する中で、強力なハードウェアと信頼性の高いVisionモデルを結集し、顧客がよりスマートで高速なアプリケーションを構築できるよう支援しています。

Voyager SDKおよびMetis AIPUハードウェアを通じて利用可能なUltralytics YOLOモデルにより、ユーザーは業界全体でリアルタイムのコンピュータビジョンソリューションを簡単に開発およびスケールできます。このコラボレーションは、データが生成される場所にAIを近づけ、エッジでの効率性、応答性、イノベーションを向上させようとする開発者や企業のコミュニティの拡大をサポートしています。

エッジAIの旅を加速させる準備はできていますか？当社のGitHubリポジトリを探索して、YOLOモデルが小売におけるAIや物流におけるコンピュータビジョンなどのイノベーションをどのように推進しているかをご確認ください。当社のVision AIツールを体験し、ライセンスオプションについて学び、エッジで高性能かつエネルギー効率の高いコンピュータビジョンをどのように実現できるかを発見してください。