Edge AI

Edge AI bezieht sich auf die Bereitstellung von Künstlicher Intelligenz (KI)-Algorithmen und -Modellen direkt auf lokalen Hardwaregeräten – wie Smartphones, IoT-Sensoren, Drohnen und vernetzten Fahrzeugen –, anstatt sich auf zentralisierte Cloud-Computing-Zentren zu verlassen. Dieser dezentrale Ansatz ermöglicht die Verarbeitung von Daten am Ort ihrer Entstehung, wodurch die Latenz beim Hin- und Hersenden von Informationen an Remote-Server erheblich reduziert wird. Durch die lokale Ausführung von maschinellem Lernen (ML)-Aufgaben können Geräte sofortige Entscheidungen treffen, ohne Internetverbindung zuverlässig arbeiten und die Datenschutz verbessern, indem sensible Informationen direkt auf dem Gerät verbleiben.

So funktioniert Edge AI#

Der Kern von Edge AI besteht darin, eine Inferenz-Engine auf einem eingebetteten System auszuführen. Da Edge-Geräte im Vergleich zu Cloud-Servern typischerweise über eine begrenzte Batterielebensdauer und Rechenleistung verfügen, müssen die AI-Modelle äußerst effizient sein. Entwickler setzen häufig Techniken wie Modellquantisierung oder Modellbeschneidung ein, um große neuronale Netze zu komprimieren, ohne nennenswerte Genauigkeit einzubüßen.

Specialized hardware accelerators are frequently used to handle these workloads efficiently. Examples include the NVIDIA Jetson platform for robotics and the Google Coral Edge TPU for low-power inference. Software frameworks also play a vital role; tools like TensorRT and TFLite optimize models specifically for these constrained environments, ensuring fast real-time inference.

Edge AI vs. Edge Computing#

Obwohl die Begriffe oft synonym verwendet werden, ist es hilfreich, zwischen ihnen zu unterscheiden:

• Edge-Computing: Dies beschreibt die breitere physische Infrastruktur und Netzwerktopologie, bei der die Datenverarbeitung in der Nähe der Datenquelle stattfindet. Es ist das „Wo“ der Gleichung.
• Edge AI: Dies bezieht sich speziell auf die intelligenten Anwendungen, die auf dieser Infrastruktur laufen. Es ist das „Was“. Beispielsweise fungiert eine Sicherheitskamera als Edge-Computing-Gerät, aber wenn sie Computer Vision (CV) verwendet, um eine bestimmte Person zu erkennen, führt sie Edge AI aus.

Praxisanwendungen#

Edge AI verändert Industrien, indem es autonome Entscheidungsfindung in kritischen Szenarien ermöglicht:

• Autonome Fahrzeuge: Selbstfahrende Autos generieren täglich Terabytes an Daten. Sie können sich aufgrund von Signallatenzen nicht auf die Cloud verlassen, um Fußgänger oder Hindernisse zu identifizieren. Stattdessen nutzen sie integrierte Edge AI für sofortige Objekterkennung, um die Sicherheit der Passagiere zu gewährleisten.
• Smart Manufacturing: Im Industrial IoT (IIoT) nutzen Sensoren in Fabriken Edge AI für vorausschauende Wartung (Predictive Maintenance). Durch die lokale Analyse von Vibrations- und Temperaturdaten kann das System Anomalien erkennen und Geräteausfälle in Echtzeit vorhersagen, wodurch kostspielige Ausfallzeiten vermieden werden.
• Gesundheitswesen: Tragbare medizinische Geräte, die mit Vision AI ausgestattet sind, können medizinische Bilder oder Vitalwerte von Patienten direkt am Ort der Behandlung analysieren und so in abgelegenen Gebieten mit schlechter Konnektivität sofortige Diagnoseunterstützung bieten.

Bereitstellung von Modellen auf die Edge#

Die Bereitstellung eines Modells am Edge umfasst typischerweise das Trainieren eines Modells in einer rechenstarken Umgebung und den anschließenden Export in ein Format, das mit Edge-Geräten kompatibel ist, wie etwa ONNX oder OpenVINO. Die Ultralytics Platform vereinfacht diesen Workflow und ermöglicht Benutzern das Trainieren und automatische Exportieren von Modellen für verschiedene Edge-Ziele.

Das folgende Beispiel zeigt, wie ein leichtgewichtigen YOLO26-Modell – das speziell auf Effizienz ausgelegt ist – in ein Format exportiert wird, das für die mobile und Edge-Bereitstellung geeignet ist.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Fortgeschrittene Edge-Bereitstellungen nutzen häufig Containerisierung-Technologien wie Docker, um Anwendungen zu verpacken, und stellen so sicher, dass sie konsistent über verschiedene Gerätearchitekturen hinweg laufen, von Raspberry Pi-Einheiten bis hin zu industriellen Gateways.