Durch das Feinabstimmen von Ultralytics YOLO-Modellen auf Edge-Geräten hält Scaleout die Daten am Ort, arbeitet offline und stellt neue Erkennungsmodelle innerhalb von Stunden statt Wochen bereit.
Beim Training von Machine-Learning-Modellen wird normalerweise vorausgesetzt, dass du alle deine Daten an einem Ort bündeln, in die Cloud übertragen und anschließend ein fertiges Modell bereitstellen kannst. In vielen realen Einsatzszenarien trifft diese Annahme nicht zu. In Bereichen wie Verteidigung, Industrie und regulierten Umgebungen sind Daten aufgrund von Datenschutzgesetzen, Sicherheitsklassifizierungen oder schlicht wegen der hohen Bandbreitenkosten an ihren Standort gebunden, und dem Netzwerk, das diese Standorte verbindet, kann nicht immer vertraut werden.
Scaleout entwickelt Infrastruktur genau für diese Bedingungen. Die Plattform Scaleout Edge nutzt föderiertes Lernen, um das Training der Modelle dorthin zu bringen, wo die Daten liegen, statt die Daten zum Modell zu übertragen. Für Projekte im Bereich Computer Vision trainiert und optimiert Scaleout Ultralytics YOLO models individuell auf Vision Ground Nodes – GPU-beschleunigten Edge-Stationen, die an jedem Standort eingesetzt werden –, sodass die Erkennung im Einsatz weiter verbessert wird, ohne dass vertrauliche Bilder das Gerät jemals verlassen.
Machine Learning dorthin bringen, wo die Daten liegen#
Scaleout wurde 2018 von Forschern der Universität Uppsala gegründet, die an groß angelegten verteilten Systemen arbeiteten, und wollte Machine Learning dort ermöglichen, wo Daten nicht zentralisiert werden können. Der Schwerpunkt liegt auf Einsatzbereichen, in denen das Bündeln von Daten an einem Ort schwierig oder unmöglich ist; föderiertes Lernen ist dabei der zentrale Mechanismus, der dies ermöglicht.
Föderiertes Lernen verteilt das Training auf viele Geräte und führt anschließend deren Modellaktualisierungen in einer zentralen Steuerungsebene zusammen, die daraus ein neues globales Modell erstellt. Jedes Gerät profitiert vom Verständnis seiner eigenen lokalen Umgebung, während die gesamte Flotte von gemeinsamer Intelligenz profitiert. Die Daten bleiben dort, wo sie hingehören, und nur das, was das Modell gelernt hat, wird übertragen.
Scaleout arbeitet in den Bereichen Verteidigung, Industrie, Transport und anderen regulierten Branchen und ist unter anderem im NATO-DIANA-Beschleunigungsprogramm sowie in einer Zusammenarbeit mit BAE Systems tätig. Bei allen diesen Projekten zeigt sich dasselbe Muster: Daten können nicht bewegt werden, während die Modelle weiter verbessert werden müssen.
Die Herausforderungen von Machine Learning am Netzwerkrand#
Hier findest du einen genaueren Überblick über die Einschränkungen, mit denen Scaleout beim Training von Modellen im Einsatz konfrontiert war:
-
Begrenzte Hardware: Bei Einsätzen vor Ort gibt es keine Server in Rechenzentren, sondern nur kleine Geräte mit geringem Energieverbrauch, etwa den Computer einer Drohne. Ein fertiges Modell darauf auszuführen ist machbar, aber sein erneutes Training erfordert deutlich mehr Rechenleistung.
-
Daten an das Gerät gebunden: Das für das erneute Training benötigte Videomaterial ist oft proprietär und kann nicht an einen zentralen Server gesendet werden. Daher muss das Modell aus Daten lernen, die den Edge-Bereich niemals verlassen.
-
Keine Spezialisten vor Ort: Die Personen, die im Einsatz Daten erfassen, sind nur selten Machine-Learning-Ingenieure. Das erneute Training kann daher nicht davon abhängen, dass Fachwissen im Bereich Data Science vor Ort vorhanden ist.
-
Ständig wechselnde Bedingungen: Die Umgebungen im Einsatz verändern sich schnell. Deshalb muss das Modell kontinuierlich aktualisiert werden, statt nur in langsamen, regelmäßigen Trainingszyklen.
Ultralytics YOLO-Modelle am Netzwerkrand feinabstimmen#
Um diese Einschränkungen zu berücksichtigen, entwickelte Scaleout einen Trainingsablauf, der vollständig im Einsatzbereich ausgeführt wird und bei dem Ultralytics YOLO-Modelle im Mittelpunkt stehen.
An jedem Standort befindet sich neben einer Flotte von Drohnen ein Vision Ground Node – eine GPU-beschleunigte Edge-Station mit eigener Rechenleistung und eigenem Speicher. Während die Drohnen Videomaterial aufnehmen, wählt der Knoten die nützlichsten Einzelbilder aus, ein Bediener versieht sie mit Markierungen, und das YOLO-Modell wird auf der lokalen Hardware feinabgestimmt.
Nach einigen Trainingsepochen wird nur das aktualisierte Modell an die Steuerungsebene zurückgesendet, niemals das Rohmaterial. Dieser Ablauf wird über das Vision-Modul von Scaleout bereitgestellt, eine Erweiterung der Plattform Scaleout Edge, die die für ein Computer-Vision-Projekt benötigten Werkzeuge in einem einzigen Paket bündelt.
Es vereint die Auswahl von Einzelbildern, Annotation, Training und Bereitstellung. Dabei übernimmt Ultralytics YOLO die Erkennung, sodass Teams auf einer funktionierenden Grundlage aufbauen können, anstatt diese Komponenten selbst zusammenzustellen.
Scaleout setzte diesen Ansatz erstmals im NATO-DIANA-Beschleunigungsprogramm ein und nutzte YOLOv8, um die Erkennung anhand von im Einsatz gesammelten Daten feinabzustimmen. Diese Daten konnten aus Gründen des Eigentumsschutzes weder über Einsatznetzwerke übertragen noch zentralisiert werden. Daher dezentralisierte das Team die Feinabstimmung und ermöglichte es dem Modell, lokal aus neuen Beispielen zu lernen.
Der Ablauf ist außerdem für Bediener und nicht für Data Scientists ausgelegt. Das System führt Personen ohne spezielle Fachkenntnisse durch die Prüfung und Markierung der relevanten Einzelbilder, sodass die im Einsatz tätigen Menschen das Modell selbstständig weiter verbessern können.
Die unterstützenden Werkzeuge sind darauf abgestimmt: die Open-Source-Version von Label Studio für Annotationen, ein Streaming-Server zum Einspeisen der Drohnenübertragungen und das Ultralytics Python package für die Feinabstimmung. All dies läuft je nach Einsatz auf Hardware, die von NVIDIA-Jetson-Modulen über ein robustes Gerät für den Einsatz vor Ort bis hin zu einem Laptop reicht.
Warum Ultralytics YOLO-Modelle wählen?#
Für Scaleout liegt der größte Vorteil von Ultralytics YOLO im geringen Ressourcenbedarf der Modelle, der föderiertes Training über schwache Verbindungen hinweg praktikabel macht. Statt Rohdaten zu übertragen, verschiebt Scaleout nur die Modellaktualisierung. Das am häufigsten eingesetzte Modell, Ultralytics YOLOv8 nano, ist etwa 10,7 MB groß. Dadurch ist eine vollständige Aktualisierung auch bei knapper Bandbreite ein kleines Übertragungspaket.
Das Ultralytics Python package gibt den Ingenieuren von Scaleout außerdem die nötige Flexibilität, Training und Bereitstellung auf unterschiedlichster Hardware durchzuführen. Das kompakte YOLOv8-nano-Modell läuft problemlos auf leistungslimitierten Edge-Geräten, während die Exportoptionen des Pakets die Bereitstellung in den verschiedenen Umgebungen unterstützen, in denen Scaleout arbeitet. Da sich die Modelle unkompliziert feinabstimmen lassen, können Teams bei veränderten Bedingungen im Einsatz schnell iterieren.
Ultralytics YOLO hilft Scaleout, Modelle schneller zu aktualisieren#
Mit Ultralytics YOLO bleibt der aufwendigste Teil der Arbeit auf dem Gerät. Das Training läuft auf Hunderten Gigabyte an Videomaterial aus dem Einsatz, übertragen wird jedoch tatsächlich nur ein Modell mit einer Größe von etwa 10 MB. Dadurch wird die zu übertragende Datenmenge ungefähr um den Faktor zehn reduziert, was föderiertes Training über die begrenzten Netzwerke ermöglicht, auf die diese Einsätze angewiesen sind.
Der Ansatz verändert außerdem, wie schnell ein verbessertes Modell wieder in den Einsatz gelangt. Was sonst möglicherweise Wochen oder Monate dauern würde – Daten sammeln, sie an einen zentralen Ort übertragen, erneut trainieren und wieder bereitstellen –, verkürzt sich auf Tage und Stunden, wenn der Ablauf am Netzwerkrand ausgeführt wird.
Am deutlichsten zeigt sich dies bei der Drohnen-Arbeit von Scaleout. Bei der Aufklärung im Verteidigungsbereich fliegt eine Drohne ein Suchmuster und nutzt ein Ultralytics YOLO-Modell an Bord, um interessante Objekte in Echtzeit zu erkennen, zu identifizieren und geografisch zu lokalisieren. Die gesamte Verarbeitung erfolgt auf dem Computer der Drohne und wird nicht zur Analyse an einen anderen Ort gesendet.
Während die Drohnen neues Videomaterial sammeln, werden diese Daten an einen Vision Ground Node übermittelt. Dort wird YOLO anhand der neuen Einzelbilder feinabgestimmt und ein aktualisiertes Modell zurückgespielt – ohne dass das Videomaterial den Standort jemals verlässt. Erkennungsmodelle müssen mit sich schnell verändernden Bedingungen und Daten Schritt halten, die nicht bewegt werden können. Ein lokal erneut trainiertes Modell bleibt dort nützlich, wo ein statisches, zentral trainiertes Modell zurückfallen würde.
Abb. 1: Beispiel dafür, wie Scaleout und Ultralytics YOLO leistungsfähige KI-Drohnen ermöglichen (Quelle)
Dasselbe Muster lässt sich weit über Drohnen hinaus anwenden. In industriellen Umgebungen wie Energieanlagen und abgelegenen Einrichtungen, in denen die Daten jedes Standorts sensibel sind, verbessert die Plattform Erkennungsmodelle an zahlreichen Standorten, ohne dass Rohdaten die Grenzen einer Anlage überschreiten. Unabhängig davon, ob die Daten auf einer Drohne oder einer stationären Installation liegen: Scaleout hält das Videomaterial am Ort und überträgt nur das, was das Modell gelernt hat.
Adaptive KI für Umgebungen entwickeln, in denen Daten nicht bewegt werden können#
Mit dem Wachstum von Scaleout wird föderiertes, Edge-basiertes Computer Vision auf weitere Umgebungen und Hardware ausgeweitet. Die vorgefertigten Module sind darauf ausgelegt, monatelange Integrationsarbeit auf wenige Tage zu verkürzen. So können Kunden ihre eigene Hardware einsetzen und den Ablauf für adaptives Lernen übernehmen, ohne den zugrunde liegenden Machine-Learning-Code neu entwickeln zu müssen.
Mit Ultralytics YOLO im Zentrum der Erkennungspipeline ermöglicht Scaleout das Training und die Verbesserung von KI genau in den Umgebungen, in denen herkömmliche Ansätze an ihre Grenzen stoßen: Die Daten bleiben am Ort, der Betrieb bleibt auch bei Netzwerkausfällen möglich, und Flotten von Edge-Geräten werden zu einem System, das als Ganzes kontinuierlich weiterlernt.
Möchtest du herausfinden, was Vision AI für dich leisten kann? Besuche unser GitHub repository, um zu erfahren, wie YOLO-Modelle Bereiche wie KI in der Fertigung und Computer Vision in der Robotik verändern. Sieh dir unsere Lizenzierungsoptionen an und starte deinen Weg zu intelligenterer Automatisierung.
