Edge AI

Edge AI bezeichnet die Ausführung von Algorithmen der künstlichen Intelligenz (KI) direkt auf lokalen Hardware-Geräten, den sogenannten Edge Devices, wie Smartphones, Kameras, Sensoren oder eingebetteten Systemen. Anstatt die Daten zur Verarbeitung an entfernte Cloud-Computing-Server zu senden, ermöglicht Edge AI die Datenanalyse und Entscheidungsfindung näher an der Quelle, an der die Daten erzeugt werden. Dieser Ansatz nutzt Fortschritte in der Hardware, wie z. B. spezielle KI-Chips, und effiziente Modelle für maschinelles Lernen (ML), um die Intelligenz an den Rand des Netzwerks zu bringen. So können Geräte Aufgaben wie Bilderkennung, natürliche Sprachverarbeitung (NLP) und Anomalieerkennung lokal durchführen.

Wie Edge AI funktioniert

In der Regel wird dabei ein KI-Modell trainiert, oft unter Nutzung leistungsstarker Cloud-Ressourcen oder lokaler Server. Nach dem Training wird das Modell durch Optimierungsverfahren wie Modellquantisierung oder Modellbeschneidung optimiert, um seine Größe und Rechenanforderungen zu reduzieren. Diese Optimierung ist entscheidend für den effizienten Betrieb von Modellen auf ressourcenbeschränkten Edge-Geräten, die oft nur über eine begrenzte Rechenleistung (CPU/GPU), Speicher und Akkulaufzeit haben. Das optimierte Modell wird dann mithilfe von Frameworks wie TensorFlow Lite, PyTorch Mobile, ONNX Runtime oder speziellen SDKs wie OpenVINO vonIntel auf dem Edge-Gerät eingesetzt. Das Gerät kann dann mithilfe seiner lokalen Sensoren (z. B. Kameras, Mikrofone) Echtzeit-Inferenzen durchführen, um Daten zu verarbeiten und Erkenntnisse oder Aktionen zu generieren, ohne dass eine ständige Internetverbindung erforderlich ist. Die Verwaltung dieser Einsätze kann mit Plattformen wie Ultralytics HUB vereinfacht werden.

Edge AI vs. Cloud AI

Der Hauptunterschied liegt darin, wo die KI-Berechnungen stattfinden. Die Cloud-KI verarbeitet Daten auf zentralen Servern und bietet riesige Rechenressourcen, die für komplexe Modelle und umfangreiche Trainingsdaten geeignet sind. Allerdings kommt es bei der Datenübertragung zu Latenzzeiten und es ist eine zuverlässige Internetverbindung erforderlich. Edge AI hingegen verarbeitet die Daten lokal auf dem Gerät. Das minimiert die Latenzzeit, erhöht den Datenschutz, da sensible Informationen das Gerät nicht verlassen müssen, und ermöglicht den Betrieb in Offline-Umgebungen oder Umgebungen mit geringer Bandbreite. Der Nachteil ist, dass Edge-Geräte nur über begrenzte Ressourcen verfügen, was die Komplexität der einsetzbaren Modelle einschränkt. Lies mehr über Edge AI vs. Cloud AI.

Beziehung zum Edge Computing

Edge AI ist eine spezielle Anwendung innerhalb des breiteren Feldes des Edge Computing. Edge Computing bezieht sich auf das allgemeine Paradigma der Verlagerung von Rechenaufgaben weg von zentralen Rechenzentren hin zum "Rand" des Netzwerks, näher an den Nutzern und Datenquellen. Edge AI wendet dieses Konzept speziell auf KI- und ML-Workloads an und ermöglicht eine intelligente Verarbeitung direkt auf Edge-Geräten. Während Edge Computing verschiedene Arten der Verarbeitung umfassen kann, konzentriert sich Edge AI auf die lokale Bereitstellung und Ausführung von KI-Modellen. Hier kannst du mehr über Edge Computing erfahren.

Vorteile von Edge AI

• Geringe Latenzzeit: Ermöglicht nahezu sofortige Reaktionen, die für Anwendungen wie autonome Fahrzeuge und Echtzeit-Kontrollsysteme entscheidend sind.
• Erhöhter Datenschutz und Sicherheit: Die lokale Verarbeitung von Daten verringert das Risiko, das mit der Übertragung sensibler Informationen über Netzwerke verbunden ist. Ultralytics legt Wert auf verantwortungsvolle KI.
• Verbesserte Verlässlichkeit: Anwendungen können auch bei instabiler oder fehlender Internetverbindung zuverlässig funktionieren.
• Bandbreiteneffizienz: Die Datenmenge, die in die Cloud gesendet werden muss, wird erheblich reduziert, was die Bandbreitenkosten senkt.
• Entscheidungsfindung in Echtzeit: Ermöglicht sofortiges Handeln auf der Grundlage lokaler Datenanalysen, was für dynamische Umgebungen unerlässlich ist. Das ist der Schlüssel zur Echtzeit-KI-Leistung.

Anwendungen und Beispiele

Edge AI verändert zahlreiche Branchen, insbesondere die Computer Vision (CV). Die steigende Nachfrage spiegelt sich in der wachsenden Marktgröße von Edge AI wider.

1. Intelligente Sicherheitskameras: Kameras, die mit Modellen wie Ultralytics YOLO11 ausgestattet sind, können eine geräteinterne Objekterkennung durchführen, um Personen, Fahrzeuge oder bestimmte Ereignisse in Echtzeit zu identifizieren, ohne ständig Videos in die Cloud zu streamen. Dies ermöglicht eine schnellere Alarmierung und verringert die Bedenken hinsichtlich des Datenschutzes. Erfahre, wie KI Sicherheitskameras verbessert.
2. Autonome Systeme: Selbstfahrende Autos und Drohnen verlassen sich stark auf Edge AI, um Sensordaten (Kameras, LiDAR) lokal zu verarbeiten und sofortige Entscheidungen zur Navigation, Hindernisvermeidung und Steuerung zu treffen, was für die Sicherheit entscheidend ist. Plattformen wie NVIDIA Jetson werden dafür häufig eingesetzt.
3. Industrielle Automatisierung: In der Fertigung ermöglicht Edge AI die Qualitätsprüfung von Produktionslinien in Echtzeit, die vorausschauende Wartung von Maschinen und die Automatisierung von Robotern durch die Analyse von Sensordaten direkt in der Fabrikhalle.
4. Gesundheitswesen: Tragbare Geräte und Monitore am Krankenbett nutzen Edge AI zur Echtzeitüberwachung des Gesundheitszustands von Patienten, zur Sturzerkennung(Posenschätzung) und zur vorläufigen Analyse medizinischer Bilder, bevor Spezialisten hinzugezogen werden.
5. Smart Retail: Edge AI ermöglicht Anwendungen wie automatisierte Kassensysteme, Bestandsmanagement in Echtzeit und die Analyse des Kundenverhaltens direkt im Laden.

Herausforderungen der Edge AI

Trotz ihrer Vorteile ist Edge AI mit Herausforderungen konfrontiert. Dazu gehören die begrenzten Rechenressourcen(Auswirkungen auf die Rechenleistung) von Edge-Geräten, die Notwendigkeit hoch optimierter Modelle(wie die Effizienz von YOLOv9), die Verwaltung der Modellbereitstellung und -aktualisierung auf zahlreichen verteilten Geräten (oft mithilfe von Tools wie Docker) und die Sicherstellung der Modellleistung unter verschiedenen realen Bedingungen. Spezialisierte Hardware wie Google Edge TPU und Sensoren wie der Sony IMX500 helfen dabei, einige dieser Hardware-Einschränkungen zu überwinden. Frameworks wie NVIDIA TensorRT helfen ebenfalls bei der Optimierung.

Edge AI stellt einen bedeutenden Wandel in der Art und Weise dar, wie KI-Funktionen bereitgestellt werden, indem Intelligenz von zentralen Clouds auf lokale Geräte verlagert wird. Dies ermöglicht eine neue Generation reaktionsschneller, privater und zuverlässiger KI-Anwendungen, die effektiv am Rande des Netzwerks betrieben werden können und sich auf alles von Unterhaltungselektronik bis hin zu kritischen Industriesystemen auswirken.