STMicroelectronicsはMCU上で推論あたりわずか9.4 mJでUltralytics YOLOを実行します
STMicroelectronicsが、正確なリアルタイムのエッジ推論を実現するために、低電力マイコンにどのようにUltralytics YOLOモデルを効率的にデプロイしているかをご覧ください。
業界全体でAIの採用が進むにつれ、エッジでリアルタイム推論を実行できる高性能かつ低消費電力のソリューションに対する需要が高まっています。この技術的ニーズに応えるため、STMicroelectronicsは組み込みAIワークロード向けに設計されたニューラルプロセッシングユニット(NPU)を統合したSTM32N6マイクロコントローラを発表しました。
Ultralytics YOLO modelsをSTM32N6上で実行することにより、STMicroelectronicsは、正確で効率的な組み込みVision AIがマイクロコントローラー上で実現可能であることを実証し、スマートシティ、ヘルスケア、民生用電子機器などの分野にわたる、スケーラブルなオンデバイスインテリジェンスのための新たな可能性を切り拓きました。
エッジにおける低消費電力デバイスのためのVision AIの探求#
STMicroelectronicsは半導体技術の世界的リーダーであり、世界中で50,000人以上の従業員と200,000社以上の顧客を抱えています。電気自動車や産業機器から、スマートホームデバイスや家電製品に至るまでのアプリケーションを実現するチップを設計・製造しています。
デバイスをよりスマートかつ高レスポンスにするためにAIを導入する業界が増える中、STMicroelectronicsはそのような機能をエッジに直接もたらすことに注力してきました。例えば、同社の強力かつエネルギー効率に優れたチップであるSTM32N6マイクロコントローラーは、computer visionのようなオンデバイスAIタスクを処理できます。
開発者がSTM32N6上で組み込みビジョンアプリケーションを構築できるよう、STMicroelectronicsはマイクロコントローラ上で効率的に動作する柔軟で高性能なモデルを探していました。Ultralytics YOLOモデルは、スピード、精度、統合の容易さの信頼できる組み合わせを提供し、最適な選択肢となりました。
AI駆動型組み込みシステムを実現する上での制約#
Edge AIの概念が広く受け入れられる前は、コンピュータビジョンモデルは通常、クラウドサーバーやGPU(Graphics Processing Units)などの大規模で中央集権的なシステムで実行されるように開発されていました。これらのプラットフォームは大規模なモデルのトレーニングとデプロイに必要なコンピューティング能力を提供しましたが、高いエネルギー消費、ネットワーク依存性、レイテンシ、運用コストの増大といった制約も伴いました。
ヘルスケア、民生用電子機器、スマートシティなどの業界で、よりスマートなreal-time applicationsの実装に対する関心が高まるにつれて、AI処理をデータが生成される場所、すなわちデバイス自体により近づけることが、技術的な必要性と戦略的な機会の両方であることが明確になりました。
しかし、低消費電力のマイクロコントローラ上でAIモデルを実行することは困難な場合があります。これらのデバイスは一般的にメモリ、コンピューティング能力、エネルギー容量が制限されており、パフォーマンスや精度を犠牲にせずに複雑なビジョンモデルをデプロイすることが困難です。
STMicroelectronicsは、開発者がモデルやワークフローを大幅に簡素化することなく、信頼性の高いリアルタイムのコンピュータビジョン機能をSTM32N6マイクロコントローラにもたらすことができる、汎用性の高いモデルスイートを特定する必要がありました。彼らの目標は、組み込みシステムの厳しい制約の範囲内で、有意義なデバイス内AIを提供することでした。
マイクロコントローラ上での効率的なYOLOモデルデプロイ#
低消費電力の組み込みデバイスで高度なAIを実現するため、STMicroelectronicsはNeural-ART Accelerator™を搭載した高性能マイクロコントローラSTM32N6を発表しました。これは、エッジAIワークロード専用に構築された社内のニューラルプロセッシングユニット(NPU)です。この技術により、開発者はデバイス上で直接AI推論を実行することが可能になり、クラウドコンピューティングへの依存を減らしながら、スピード、応答性、エネルギー効率を向上させることができます。
STMicroelectronicsはUltralyticsと提携し、STM32N6上でUltralytics YOLOモデルを実行することで、その能力を評価し実証しました。スピードと精度のバランスで知られるUltralytics YOLOモデルは、リソースが制限された環境や組み込みデプロイに適しています。
Fig 1。STM32N6上でUltralytics YOLOモデルを実行する例。
さまざまなYOLOモデルのバリエーションをSTM32N6上で直接実行することで、STMicroelectronicsは、マイクロコントローラーの電力およびメモリの制限内で、object detection、分類、追跡などのさまざまなVision AIのユースケースを実証することができました。このコラボレーションにより、開発者は、スケーラブルで本番環境に対応したビジョンモデルを使用して、リアルタイムのAI搭載組み込みシステムをデプロイするための信頼性の高い選択肢を得ることができます。
なぜUltralytics YOLOモデルが選ばれるのか#
Ultralytics YOLOモデルは、AI駆動型組み込みシステムに必要な精度、効率、汎用性の適切な組み合わせをSTMicroelectronicsに提供しました。これらのモデルは、STM32N6のような低消費電力のマイクロコントローラ上で動作するのに十分軽量でありながら、リアルタイムのオブジェクト検出およびインスタンスセグメンテーションのパフォーマンスを実現するのに十分な強力さを備えています。
例えば、STM32N6上でUltralytics YOLOv8nモデルを256×256の解像度で実行した場合、システムは毎秒34フレームに達し、推論ごとに約29ミリ秒かかりました。電力測定では、9.4 millijoules per inferenceしか使用しないことが示されており、低電力デバイスでのリアルタイムビジョンタスクに非常に適しています。
複数のYOLOモデルバリエーションのサポートにより、開発者はアプリケーションの制約に応じて、スピード、サイズ、または精度を微調整する柔軟性があります。統合が容易なアーキテクチャは、強力なコミュニティやドキュメントによるサポートと相まって、幅広い組み込みユースケースでVision AIの採用を加速させるというSTMicroelectronicsの目標に対して、Ultralytics YOLOを自然な適合させています。
Ultralytics Enterprise licenseを通じて、STMicroelectronicsは、内部テストおよび開発のためにYOLOモデルの全スイートへのアクセスを顧客に提供します。ただし、商用デプロイについては、顧客はライセンスフォームからUltralyticsに直接独自の商用ライセンスをリクエストする必要があります。これにより、コンプライアンスが確保され、本番環境対応のVision AIソリューションへのスケーラブルなパスがサポートされます。
スマートシティからヘルスケアまで：実戦で活用されるスケーラブルなEdge AI#
Ultralytics YOLOモデルをSTM32N6マイクロコントローラ上で直接実行できる能力は、STMicroelectronicsとその開発エコシステムにとって、幅広いVision AIアプリケーションの可能性を切り開きました。外部処理やクラウド接続に頼らずにデバイス上で高速かつ正確な推論を提供することで、このソリューションはコンパクトで低消費電力のシステムにインテリジェントな機能をデプロイすることを可能にします。
顧客は、スマートシティインフラストラクチャにおけるリアルタイムの歩行者および車両検出、産業オートメーションにおけるオンデバイスの安全確認と品質管理、およびポータブルヘルスケアツールにおけるAI支援診断などの分野でユースケースを模索しています。同様に、民生用電子機器分野では、YOLOモデルにより、存在検出、ジェスチャー認識、object trackingなどのレスポンシブな機能が、すべてバッテリー駆動デバイスのパフォーマンス制約内で実現します。
明日のVision AIソリューションを今日構築する#
AIが進化し続ける中、STMicroelectronicsは、エッジデバイスに強力かつ効率的なソリューションをより簡単に導入できるようにすることに注力しています。Ultralyticsのようなパートナーと緊密に連携することで、すぐに使用できるモデル、ツール、STM32互換のリソースを活用し、開発者がより迅速に作業を開始できるよう支援しています。
エッジAIイノベーションの次のステップを踏み出しましょう。GitHub repositoryにアクセスして、Ultralytics YOLOモデルが組み込みビジョンをどのように変革しているかをご確認ください。AI in healthcareやcomputer vision in retailのアプリケーションを探索し、本日はlicensing optionsをチェックしてください。
