Edge AI

Edge AI refers to the deployment of artificial intelligence (AI) algorithms and models directly on local hardware devices—such as smartphones, IoT sensors, drones, and connected vehicles—rather than relying on centralized cloud computing centers. This decentralized approach allows data to be processed at the source of its creation, significantly reducing the latency involved in sending information back and forth to remote servers. By executing machine learning (ML) tasks locally, devices can make instantaneous decisions, operate reliably without internet connectivity, and enhance data privacy by keeping sensitive information on the device itself.

Link to this sectionEdge AIの仕組み#

The core of Edge AI involves running an inference engine on an embedded system. Because edge devices typically have limited battery life and computational power compared to cloud servers, the AI models must be highly efficient. Developers often employ techniques like model quantization or model pruning to compress large neural networks without sacrificing significant accuracy.

これらのワークロードを効率的に処理するために、専用のハードウェアアクセラレータが頻繁に使用されます。例として、ロボティクス向けのNVIDIA Jetsonプラットフォームや、低消費電力推論向けのGoogle Coral Edge TPUが挙げられます。ソフトウェアフレームワークも重要な役割を担っており、TensorRTやTFLiteのようなツールは、これらの制約のある環境向けにモデルを最適化し、高速なリアルタイム推論を保証します。

Link to this sectionEdge AIとEdge Computingの違い#

これらの用語は混同して使われることが多いですが、両者を区別すると理解しやすくなります。

• Edge Computing: これは、データソースの近くでデータ処理が行われる、より広範な物理インフラストラクチャおよびネットワークトポロジーを指します。これは「場所 (where)」に関する概念です。
• Edge AI: これは、そのインフラストラクチャ上で動作するインテリジェントなアプリケーションを具体的に指します。これは「何 (what)」に関する概念です。例えば、セキュリティカメラはエッジコンピューティングデバイスとして機能しますが、コンピュータビジョン (CV)を使用して特定の人物を認識する場合、それはEdge AIを実行していることになります。

Link to this section実社会での応用#

Edge AIは、重要なシナリオにおける自律的な意思決定を可能にすることで、産業を変革しています。

• 自動運転車: 自動運転車は毎日テラバイト単位のデータを生成します。信号のレイテンシを考慮すると、歩行者や障害物を特定するためにクラウドに頼ることはできません。その代わり、車載のEdge AIを使用して即座に物体検出を行い、乗客の安全を確保します。
• スマートマニュファクチャリング: 産業用IoT (IIoT)では、工場のフロアにあるセンサーがEdge AIを予知保全に使用しています。振動や温度のデータをローカルで分析することで、システムは異常を検出し、リアルタイムで機器の故障を予測し、コストのかかるダウンタイムを防止します。
• ヘルスケア: Vision AIを搭載したポータブル医療機器は、医療画像や患者のバイタルサインを診療現場で直接分析でき、接続環境が悪い遠隔地においても即時の診断サポートを提供します。

Link to this sectionモデルのエッジへの展開#

モデルをエッジにデプロイするには、通常、高い計算環境でモデルをトレーニングし、その後ONNXやOpenVINOなど、エッジデバイスと互換性のある形式にエクスポートします。Ultralytics Platformはこのワークフローを簡素化し、ユーザーがさまざまなエッジターゲット向けにモデルをトレーニングし、自動的にエクスポートできるようにします。

以下の例は、効率性を追求して設計された軽量なYOLO26モデルを、モバイルやエッジへのデプロイに適した形式にエクスポートする方法を示しています。

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Advanced edge deployments often utilize containerization technologies like Docker to package applications, ensuring they run consistently across different device architectures, from Raspberry Pi units to industrial gateways.