Edge AI

Edge AI とは、一元化されたクラウド コンピューティングセンターに依存するのではなく、スマートフォン、IoTセンサー、ドローン、コネクテッドカーなどのローカルなハードウェアデバイス上で直接、人工知能 (AI)アルゴリズムとモデルを展開することを指します。この分散型アプローチにより、データの生成元でデータを処理できるようになり、リモートサーバーとの間で情報をやり取りする際にかかるレイテンシーを大幅に削減できます。機械学習 (ML)タスクをローカルで実行することで、デバイスは即座に決定を下し、インターネット接続がなくても確実に対処し、機密情報をデバイス自体に保持することでデータプライバシーを向上させることができます。

Edge AIの仕組み#

Edge AI の核心は、組み込みシステム上で推論エンジンを実行することにあります。エッジデバイスは通常、クラウドサーバーと比較してバッテリー寿命や計算能力が限られているため、AIモデルは効率性が非常に優れている必要があります。開発者は、クラウドサーバーに匹敵する精度を犠牲にすることなく大規模なニューラルネットワークを圧縮するために、モデル量子化やモデルプルーニングなどの技術を頻繁に採用しています。

これらのワークロードを効率的に処理するために、特化したハードウェアアクセラレータが頻繁に使用されます。例としては、ロボティクス向けのNVIDIA Jetsonプラットフォームや、低電力推論向けのGoogle Coral Edge TPUが挙げられます。ソフトウェアフレームワークも重要な役割を果たしており、TensorRTやTFLiteなどのツールは、このような制約のある環境向けにモデルを特別に最適化し、高速なリアルタイム推論を実現します。

Edge AIとEdge Computingの違い#

これらの用語は混同して使われることが多いですが、両者を区別すると理解しやすくなります。

• エッジ コンピューティング: これは、データ処理がデータの発生源の近くで行われる、より広範な物理インフラストラクチャとネットワークトポロジを説明しています。これは「どこで」という方程式の要素です。
• Edge AI: これは、そのインフラストラクチャ上で実行されるインテリジェントなアプリケーションを具体的に指します。これは「何を」という要素です。たとえば、セキュリティカメラはエッジ コンピューティングデバイスとして機能しますが、コンピュータ ビジョン (CV)を使用して特定の人物を認識する場合、それは Edge AI を実行しています。

実社会での応用#

Edge AIは、重要なシナリオにおける自律的な意思決定を可能にすることで、産業を変革しています。

• 自動運転車: 自動運転車は毎日テラバイト単位のデータを生成します。信号のレイテンシーが原因で、歩行者や障害物の識別をクラウドに頼ることはできません。その代わり、乗客の安全を確保するために、車載の Edge AI を使用して即座に物体検出を行います。
• スマート製造: 産業用 IoT (IIoT)では、工場の現場にあるセンサーが予知保全に Edge AI を使用しています。振動や温度のデータをローカルで分析することにより、システムは異常を検出し、機器の故障をリアルタイムで予測して、コストのかかるダウンタイムを防ぐことができます。
• ヘルスケア: Vision AIを搭載したポータブル医療機器は、ケアの現場で直接医療画像や患者のバイタルサインを分析できるため、接続環境の悪い遠隔地でも迅速な診断サポートを提供できます。

モデルのエッジへの展開#

モデルをエッジにデプロイするには通常、高コンピュート環境でモデルをトレーニングし、その後、ONNXやOpenVINOなどのエッジデバイスと互換性のあるフォーマットにエクスポートします。Ultralytics プラットフォームはこのワークフローを簡素化し、ユーザーがさまざまなエッジターゲット向けにモデルをトレーニングして自動的にエクスポートできるようにします。

次の例は、効率性を特別に追求して設計された軽量のYOLO26モデルを、モバイルおよびエッジデプロイに適したフォーマットにエクスポートする方法を示しています。

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

高度なエッジデプロイでは、Dockerなどのコンテナ化技術を利用してアプリケーションをパッケージ化することが多く、これにより、Raspberry Piユニットから産業用ゲートウェイまで、さまざまなデバイスアーキテクチャ間でアプリケーションが一貫して実行されるようになります。