Scaleout verkürzt Modellaktualisierungen mit Ultralytics YOLO von Wochen auf Stunden

Durch die Feinabstimmung von Ultralytics-YOLO-Modellen auf Edge-Geräten hält Scaleout die Daten am jeweiligen Standort, arbeitet offline und stellt neue Erkennungsmodelle innerhalb von Stunden statt Wochen bereit.

Beim Training von Machine-Learning-Modellen wird meist vorausgesetzt, dass sich alle Daten an einem Ort zusammenführen, in die Cloud übertragen und anschließend ein fertiges Modell bereitstellen lassen. In vielen realen Einsatzumgebungen trifft das nicht zu. In den Bereichen Verteidigung, Industrie und regulierte Branchen sind Daten aufgrund von Datenschutzgesetzen, Sicherheitsklassifizierungen oder schlicht der hohen Übertragungskosten an ihren Standort gebunden. Außerdem kann dem Netzwerk, das diese Standorte verbindet, nicht immer vertraut werden.

Scaleout entwickelt Infrastruktur genau für solche Bedingungen. Die Plattform Scaleout Edge nutzt föderiertes Lernen, um das Modelltraining dorthin zu bringen, wo die Daten liegen, statt die Daten zum Modell zu übertragen. Für Projekte im Bereich Computer Vision trainiert Scaleout Ultralytics YOLO-Modelle auf Vision Ground Nodes, GPU-beschleunigten Edge-Stationen an jedem Standort, speziell und optimiert sie weiter. So verbessert sich die Erkennung im Einsatz kontinuierlich, ohne dass sensible Bilder das Gerät jemals verlassen.

Machine Learning dorthin bringen, wo die Daten gespeichert sind#

Scaleout wurde 2018 von Forschenden der Universität Uppsala gegründet, die an verteilten Systemen im großen Maßstab arbeiteten. Das Unternehmen wollte Machine Learning dort ermöglichen, wo Daten nicht zentralisiert werden können. Der Schwerpunkt liegt auf Einsatzumgebungen, in denen sich Daten nur schwer oder gar nicht an einem Ort zusammenführen lassen. Föderiertes Lernen ist der zentrale Mechanismus, der das ermöglicht.

Föderiertes Lernen verteilt das Training auf viele Geräte und führt anschließend deren Modellaktualisierungen in einer zentralen Steuerungsebene zusammen, die daraus ein neues globales Modell erstellt. Jedes Gerät profitiert von seinem Verständnis der lokalen Umgebung, während der gesamte Geräteverbund von gemeinsamem Wissen profitiert. Die Daten bleiben an ihrem Speicherort; übertragen wird nur, was das Modell gelernt hat.

Scaleout ist in den Bereichen Verteidigung, Industrie, Transport und anderen regulierten Branchen tätig. Zu den Projekten zählen das Förderprogramm NATO DIANA Accelerator und eine Zusammenarbeit mit BAE Systems. In all diesen Bereichen zeigt sich dasselbe Muster: Die Daten können nicht verschoben werden, die Modelle müssen sich aber trotzdem weiterentwickeln.

Die Herausforderungen von Machine Learning am Netzwerkrand#

Hier ein genauerer Blick auf die Einschränkungen, mit denen Scaleout beim Training von Modellen im Einsatz konfrontiert war:

• Begrenzte Hardware: Für Einsätze im Feld stehen keine Rechenzentrumsserver zur Verfügung, sondern nur kleine Geräte mit geringem Stromverbrauch, etwa der Bordcomputer einer Drohne. Ein fertiges Modell darauf auszuführen ist möglich, für ein erneutes Training ist jedoch deutlich mehr Rechenleistung erforderlich.
• Daten bleiben auf dem Gerät: Das für das erneute Training benötigte Videomaterial ist häufig proprietär und kann nicht an einen zentralen Server übertragen werden. Das Modell muss daher mit Daten lernen, die den Netzwerkrand nie verlassen.
• Keine Fachleute vor Ort: Die Mitarbeitenden, die im Einsatz Daten erfassen, sind nur selten Machine-Learning-Ingenieure. Das erneute Training kann deshalb nicht davon abhängen, dass Fachleute aus der Datenwissenschaft vor Ort sind.
• Ständig wechselnde Bedingungen: Die Einsatzumgebungen ändern sich schnell. Daher muss das Modell kontinuierlich aktualisiert werden, statt nur in langsamen, regelmäßigen Trainingszyklen.

Ultralytics-YOLO-Modelle am Netzwerkrand feinabstimmen#

Um diese Einschränkungen zu berücksichtigen, entwickelte Scaleout einen Trainingsablauf, der vollständig im Einsatz ausgeführt wird und Ultralytics-YOLO-Modelle in den Mittelpunkt stellt.

An jedem Standort befindet sich neben einer Flotte von Drohnen ein Vision Ground Node – eine GPU-beschleunigte Edge-Station mit eigener Rechenleistung und Speicher. Während die Drohnen Videomaterial aufnehmen, wählt der Knoten die nützlichsten Einzelbilder aus. Eine Bedienperson versieht diese mit Anmerkungen, und das YOLO-Modell wird auf der lokalen Hardware feinabgestimmt.

Nach einigen Trainingsepochen wird nur das aktualisierte Modell an die Steuerungsebene zurückgesendet, niemals das Rohmaterial. Dieser Ablauf wird über das Vision-Modul von Scaleout bereitgestellt, eine Erweiterung der Scaleout-Edge-Plattform, die die für Computer-Vision-Projekte benötigten Werkzeuge in einem Paket bündelt.

Das Modul vereint die Auswahl von Einzelbildern, Anmerkungen, Training und Bereitstellung. Ultralytics YOLO übernimmt dabei die Erkennung. So können Teams auf einer funktionierenden Grundlage aufbauen, statt diese Komponenten selbst zusammenzustellen.

Scaleout setzte diesen Ansatz erstmals im Förderprogramm NATO DIANA Accelerator ein und verwendete YOLOv8, um die Erkennung anhand von im Einsatz gesammelten Daten feinabzustimmen. Diese Daten konnten aus Gründen der Vertraulichkeit weder über die Feldnetzwerke übertragen noch zentralisiert werden. Deshalb dezentralisierte das Team die Feinabstimmung, damit das Modell lokal anhand neuer Beispiele lernen konnte.

Der Ablauf ist auf Bedienpersonal und nicht auf Datenwissenschaftler ausgelegt. Das System führt fachfremde Mitarbeitende durch die Prüfung und Beschriftung relevanter Einzelbilder, sodass die Einsatzkräfte das Modell selbstständig weiter verbessern können.

Auch die unterstützenden Werkzeuge sind darauf abgestimmt: Für die Anmerkungen kommt die Open-Source-Version von Label Studio zum Einsatz, für die Übertragung von Drohnenvideos ein Streaming-Server und für die Feinabstimmung das Ultralytics-Python-Paket. Alles läuft auf Hardware vom NVIDIA-Jetson-Modul bis hin zu einem robusten Feldgerät oder Laptop, abhängig vom Einsatz.

Warum Ultralytics YOLO-Modelle wählen?#

Der größte Vorteil von Ultralytics YOLO für Scaleout ist das geringe Gewicht der Modelle, das föderiertes Training über schlechte Verbindungen hinweg praktikabel macht. Statt Rohdaten zu übertragen, verschickt Scaleout nur die Modellaktualisierung. Das am häufigsten verwendete Modell, Ultralytics YOLOv8 nano, ist etwa 10,7 MB groß. Dadurch ist eine vollständige Aktualisierung auch bei knapper Bandbreite ein kleines Datenpaket.

Das Ultralytics-Python-Paket bietet den Ingenieuren von Scaleout außerdem die Flexibilität, Modelle auf unterschiedlicher Hardware zu trainieren und bereitzustellen. Das kompakte YOLOv8-nano-Modell läuft problemlos auf ressourcenbeschränkten Edge-Geräten. Die Exportoptionen des Pakets ermöglichen die Bereitstellung in den verschiedenen Umgebungen, in denen Scaleout arbeitet. Da sich die Modelle unkompliziert feinabstimmen lassen, können Teams sie bei Änderungen der Einsatzbedingungen schnell anpassen.

Ultralytics YOLO hilft Scaleout, Modelle schneller zu aktualisieren#

Bei Ultralytics YOLO bleibt der aufwendigste Teil der Arbeit auf dem Gerät. Das Training erfolgt mit Hunderten Gigabyte an Aufnahmen aus dem Einsatzgebiet; tatsächlich übertragen wird jedoch nur ein etwa 10 MB großes Modell. Dadurch muss erheblich weniger Datenvolumen übertragen werden, was föderiertes Training über die begrenzten Netzwerke ermöglicht, auf die diese Anwendungen angewiesen sind.

Der Ansatz beschleunigt auch die Rückführung verbesserter Modelle in den Einsatz. Was sonst Wochen oder Monate dauern könnte – Daten sammeln, an einen zentralen Ort senden, neu trainieren und erneut bereitstellen – verkürzt sich auf Tage oder Stunden, wenn der gesamte Ablauf am Netzwerkrand stattfindet.

Am deutlichsten zeigt sich das bei Scaleouts Arbeit mit Drohnen. Bei der Aufklärung im Verteidigungsbereich fliegt eine Drohne ein Suchmuster ab und verwendet ein integriertes Ultralytics-YOLO-Modell, um interessante Objekte in Echtzeit zu erkennen, zu identifizieren und geographisch zu verorten. Die gesamte Verarbeitung erfolgt auf dem Bordcomputer der Drohne, statt zur Analyse an anderer Stelle übertragen zu werden.

Während die Drohnen neues Videomaterial aufnehmen, werden die Daten an einen Vision Ground Node übertragen. Dort wird YOLO anhand der neuen Einzelbilder feinabgestimmt und anschließend ein aktualisiertes Modell zurückgespielt – ohne dass das Videomaterial den Standort jemals verlässt. Erkennungsmodelle müssen mit sich schnell ändernden Bedingungen und Daten Schritt halten, die nicht verschoben werden können. Ein lokal neu trainiertes Modell bleibt dort nützlich, wo ein statisches, zentral trainiertes Modell den Anschluss verlieren würde.

Abb. 1. Beispiel dafür, wie Scaleout und Ultralytics YOLO KI-Drohnen ermöglichen (Quelle).

Dasselbe Prinzip lässt sich weit über Drohnen hinaus anwenden. In industriellen Umgebungen wie Energieanlagen und abgelegenen Einrichtungen verbessert die Plattform Erkennungsmodelle an vielen Standorten, ohne dass Rohdaten die Grenzen einer Anlage überschreiten. Unabhängig davon, ob die Daten auf einer Drohne oder einer fest installierten Anlage gespeichert sind: Scaleout lässt das Videomaterial am Standort und überträgt nur, was das Modell gelernt hat.

Adaptive KI für Umgebungen entwickeln, in denen Daten nicht verschoben werden können#

Während Scaleout wächst, weitet das Unternehmen seine föderierte, am Netzwerkrand ausgeführte Computer Vision auf weitere Umgebungen und Hardware aus. Die vorgefertigten Module sollen monatelange Integrationsarbeit auf wenige Tage verkürzen. So können Kunden ihre eigene Hardware mitbringen und den adaptiven Lernablauf einsetzen, ohne den zugrunde liegenden Machine-Learning-Code neu entwickeln zu müssen.

Mit Ultralytics YOLO im Kern seiner Erkennungspipeline ermöglicht Scaleout das Training und die Verbesserung von KI genau in den Umgebungen, in denen herkömmliche Ansätze an ihre Grenzen stoßen. Die Daten bleiben am Standort, der Betrieb läuft auch bei Netzwerkausfällen weiter, und aus Flotten von Edge-Geräten wird ein System, das als Ganzes kontinuierlich lernt.

Möchtest du herausfinden, was Vision-KI für dich leisten kann? Besuche unser GitHub-Repository, um zu entdecken, wie YOLO-Modelle Bereiche wie KI in der Fertigung und Computer Vision in der Robotik verändern. Sieh dir unsere Lizenzoptionen an und starte deinen Weg zu intelligenterer Automatisierung.