Edge AI

エッジAIとは、集中型のクラウドコンピューティングセンターに依存するのではなく、スマートフォン、IoTセンサー、ドローン、コネクテッドカーなどのローカルハードウェアデバイス上で、人工知能 (AI)のアルゴリズムやモデルを直接実行することを指します。この分散型アプローチにより、データの生成元でデータを処理できるため、リモートサーバーとの間で情報を送受信する際に生じるレイテンシを大幅に削減できます。機械学習 (ML)タスクをローカルで実行することで、デバイスは瞬時に判断を下し、インターネット接続がなくても安定して動作できます。また、機密情報をデバイス自体に保持することで、データプライバシーも強化できます。

エッジAIの仕組み#

エッジAIの中核は、組み込みシステム上で推論エンジンを実行することです。エッジデバイスは通常、クラウドサーバーと比較してバッテリー駆動時間と計算能力に制約があるため、AIモデルには高い効率性が求められます。開発者は、大規模なニューラルネットワークを精度を大きく損なうことなく圧縮するために、モデル量子化やモデルプルーニングなどの技術をよく利用します。

これらのワークロードを効率的に処理するために、専用ハードウェアアクセラレーターが頻繁に使用されます。例として、ロボティクス向けのNVIDIA Jetsonプラットフォームや、低消費電力の推論向けのGoogle Coral Edge TPUがあります。ソフトウェアフレームワークも重要な役割を果たします。TensorRTやTFLiteなどのツールは、このような制約のある環境向けにモデルを最適化し、高速なリアルタイム推論を実現します。

エッジAIとエッジコンピューティングの比較#

これらの用語は同じ意味で使われることが多いですが、両者を区別すると理解しやすくなります。

• エッジコンピューティング: これは、データソースの近くでデータ処理を行う、より広範な物理インフラストラクチャとネットワークトポロジーを指します。方程式における「どこ」に当たります。
• エッジAI: これは、そのインフラストラクチャ上で実行されるインテリジェントなアプリケーションを具体的に指します。方程式における「何」に当たります。たとえば、監視カメラはエッジコンピューティングデバイスとして機能しますが、コンピュータービジョン (CV)を使用して特定の人物を認識すると、エッジAIを実行していることになります。

実世界での利用例#

エッジAIは、重要なシナリオで自律的な意思決定を可能にすることで、さまざまな業界を変革しています。

• 自動運転車: 自動運転車は毎日テラバイト単位のデータを生成します。信号のレイテンシがあるため、歩行者や障害物の識別をクラウドに依存することはできません。その代わり、乗員の安全を確保するために、車載エッジAIを使用して瞬時に物体検出を行います。
• スマート製造: 産業用IoT (IIoT)では、工場の現場に設置されたセンサーが予知保全にエッジAIを使用します。振動や温度のデータをローカルで分析することで、システムは異常を検出し、リアルタイムで機器の故障を予測できるため、コストのかかるダウンタイムを防止できます。
• ヘルスケア: Vision AIを搭載したポータブル医療機器は、医療画像や患者のバイタル情報を診療現場で直接分析できます。これにより、接続環境が悪い遠隔地でも、迅速な診断支援を提供できます。

エッジへのモデルのデプロイ#

モデルをエッジにデプロイするには通常、計算能力の高い環境でモデルをトレーニングし、ONNXやOpenVINOなど、エッジデバイスと互換性のある形式にエクスポートします。Ultralyticsプラットフォームはこのワークフローを簡素化し、ユーザーがさまざまなエッジターゲット向けにモデルをトレーニングして自動的にエクスポートできるようにします。

次の例では、モバイルおよびエッジへのデプロイ向けに、効率性を重視して設計された軽量なYOLO26モデルを適切な形式にエクスポートする方法を示します。

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

高度なエッジデプロイでは、アプリケーションをパッケージ化するために、Dockerなどのコンテナ化技術を使用することがよくあります。これにより、Raspberry Piユニットから産業用ゲートウェイまで、異なるデバイスアーキテクチャ間で一貫して実行できるようになります。