Scaleout reduziert Modell-Updates von Wochen auf Stunden mit Ultralytics YOLO

Beim Training von Machine-Learning-Modellen geht man normalerweise davon aus, dass man alle Daten an einem Ort bündeln, in die Cloud senden und ein fertiges Modell bereitstellen kann. In vielen realen Umgebungen trifft diese Annahme nicht zu. In Verteidigungs-, Industrie- und regulierten Umgebungen sind Daten aufgrund von Datenschutzgesetzen, Sicherheitsklassifizierungen oder schlichten Bandbreitenkosten an ihren Standort gebunden, und das Netzwerk, das diese Standorte verbindet, ist nicht immer vertrauenswürdig.

Scaleout baut Infrastruktur für genau diese Bedingungen. Die Plattform Scaleout Edge nutzt föderiertes Lernen, um das Modelltraining dorthin zu bringen, wo die Daten liegen, anstatt Daten zum Modell zu bewegen. Für Computer-Vision-Projekte trainiert und optimiert Scaleout Ultralytics YOLO-Modelle individuell auf Vision Ground Nodes – GPU-beschleunigten Edge-Stationen, die an jedem Standort eingesetzt werden –, sodass die Erkennung vor Ort immer besser wird, ohne dass sensible Bilder jemals das Gerät verlassen.

Link to this sectionMachine Learning dorthin bringen, wo die Daten leben#

Scaleout wurde 2018 von Forschern der Universität Uppsala gegründet, die an groß angelegten verteilten Systemen arbeiteten. Ziel war es, Machine Learning dort zu ermöglichen, wo Daten nicht zentralisiert werden können. Der Fokus liegt auf Kontexten, in denen die Zusammenführung von Daten an einem Ort schwierig oder unmöglich ist, und föderiertes Lernen ist der Kernmechanismus, der dies ermöglicht.

Föderiertes Lernen verteilt das Training auf viele Geräte und sammelt dann deren Modell-Updates in einer zentralen Steuerungsebene, die sie zu einem neuen globalen Modell aggregiert. Jedes Gerät profitiert vom Verständnis seiner eigenen lokalen Umgebung, während die gesamte Flotte von kollektiver Intelligenz profitiert. Die Daten bleiben, wo sie hingehören, und nur das, was das Modell gelernt hat, wird übertragen.

Die Arbeit von Scaleout erstreckt sich auf Verteidigung, Industrie, Transportwesen und andere regulierte Sektoren und umfasst Engagements wie das NATO DIANA Accelerator-Programm sowie eine Zusammenarbeit mit BAE Systems. Überall ist das Muster dasselbe: Daten, die sich nicht bewegen können, und Modelle, die sich dennoch verbessern müssen.

Link to this sectionDie Komplexität von Edge-Machine-Learning#

Hier ist ein genauerer Blick auf die Einschränkungen, mit denen Scaleout beim Training von Modellen vor Ort konfrontiert war:

• Begrenzte Hardware: Feldeinsätze verfügen über keine Rechenzentrumsserver, sondern nur über kleine, stromsparende Geräte wie den Computer einer Drohne. Ein fertiges Modell darauf auszuführen ist machbar, aber das erneute Training erfordert deutlich mehr Rechenleistung.

• Daten fest auf dem Gerät: Das für das erneute Training benötigte Filmmaterial ist oft proprietär und kann nicht an einen zentralen Server gesendet werden, daher muss das Modell von Daten lernen, die niemals den Edge verlassen.

• Keine Spezialisten vor Ort: Die Bediener, die Daten vor Ort erfassen, sind selten Machine-Learning-Ingenieure, daher darf das erneute Training nicht von der Anwesenheit von Data-Science-Expertise abhängen.

• Ständig wechselnde Bedingungen: Feldbedingungen ändern sich schnell, daher muss das Modell kontinuierlich aktualisiert werden und nicht in langsamen, periodischen Zyklen.

Link to this sectionFeinabstimmung von Ultralytics YOLO-Modellen am Edge#

Um innerhalb dieser Grenzen zu arbeiten, baute Scaleout eine Trainingsschleife, die vollständig im Feld abläuft, mit Ultralytics YOLO-Modellen im Zentrum.

An jedem Standort befindet sich ein Vision Ground Node, eine GPU-beschleunigte Edge-Station mit eigener Rechenleistung und Speicher, neben einer Drohnenflotte. Während die Drohnen Material aufnehmen, wählt der Node die nützlichsten Frames aus, ein Bediener labelt sie, und das YOLO-Modell wird auf dieser lokalen Hardware feinabgestimmt.

Nach wenigen Trainingsepochen wird nur das aktualisierte Modell zurück an die Steuerungsebene gesendet, niemals das Rohmaterial. Diese Schleife wird über das Vision-Modul von Scaleout bereitgestellt, eine Erweiterung der Scaleout Edge-Plattform, die die für ein Computer-Vision-Projekt erforderlichen Tools in einem einzigen Paket bündelt.

Es vereint Frame-Auswahl, Annotation, Training und Bereitstellung, wobei Ultralytics YOLO die Erkennung übernimmt, sodass Teams auf einer funktionierenden Basis aufbauen können, anstatt diese Teile selbst zusammenzufügen.

Scaleout setzte diesen Ansatz erstmals im NATO DIANA Accelerator-Programm ein und nutzte YOLOv8, um die Erkennung auf vor Ort gesammelten Daten feinabzustimmen. Diese Daten konnten aus proprietären Gründen nicht über Feldnetzwerke verschoben oder zentralisiert werden, also dezentralisierte das Team die Feinabstimmung und ließ das Modell lokal von neuen Beispielen lernen.

Die Schleife ist auch für Bediener statt für Data Scientists konzipiert. Das System führt einen Nicht-Spezialisten durch die Überprüfung und das Labeln der wichtigen Frames, sodass die Leute vor Ort das Modell eigenständig weiter verbessern können.

Die unterstützenden Tools spiegeln dies wider, mit der Open-Source-Version von Label Studio für die Annotation, einem Streaming-Server zur Einbindung von Drohnen-Feeds und dem Ultralytics Python-Paket für die Feinabstimmung. Alles läuft auf Hardware, die von NVIDIA Jetson-Modulen bis hin zu robusten Feldeinheiten oder Laptops reicht, je nach Einsatzgebiet.

Link to this sectionWarum solltest du dich für Ultralytics YOLO Modelle entscheiden?#

Für Scaleout liegt der größte Vorteil von Ultralytics YOLO darin, wie leichtgewichtig die Modelle sind, was föderiertes Training über schlechte Verbindungen überhaupt erst praktikabel macht. Anstatt Rohdaten zu verschieben, überträgt Scaleout nur das Modell-Update. Das meistgenutzte Modell, Ultralytics YOLOv8 Nano, ist etwa 10,7 MB groß, sodass ein vollständiges Update ein kleines Paket ist, das selbst bei knapper Bandbreite problemlos gesendet werden kann.

Das Ultralytics Python-Paket gibt den Ingenieuren von Scaleout zudem die Flexibilität, auf verschiedenster Hardware zu trainieren und bereitzustellen. Das kompakte YOLOv8 Nano-Modell läuft komfortabel auf eingeschränkten Edge-Geräten, während die Export-Optionen des Pakets die Bereitstellung in den unterschiedlichen Umgebungen von Scaleout unterstützen. Da die Modelle einfach feinabzustimmen sind, können Teams schnell iterieren, wenn sich die Feldbedingungen ändern.

Link to this sectionUltralytics YOLO hilft Scaleout, Modelle schneller zu aktualisieren#

Mit Ultralytics YOLO bleibt der schwerste Teil der Arbeit auf dem Gerät. Das Training läuft auf hunderten Gigabytes an Feldmaterial, aber was tatsächlich übertragen wird, ist ein Modell von etwa 10 MB. Das entspricht einer etwa zehnfachen Reduzierung der Datenmenge, die bewegt werden muss, was föderiertes Training über die begrenzten Netzwerke dieser Einsätze hinweg überhaupt erst ermöglicht.

Der Ansatz verändert auch, wie schnell ein verbessertes Modell wieder im Einsatz ist. Was sonst Wochen oder Monate dauern könnte – Daten sammeln, an einen zentralen Ort versenden, neu trainieren und neu bereitstellen –, reduziert sich auf Tage und Stunden, wenn die Schleife am Edge läuft.

Dies zeigt sich am deutlichsten bei der Drohnenarbeit von Scaleout. Bei der Aufklärung im Verteidigungsbereich fliegt eine Drohne ein Suchmuster und nutzt ein Ultralytics YOLO-Modell an Bord, um Objekte von Interesse in Echtzeit zu erkennen, zu identifizieren und geolokal zu verorten – die gesamte Verarbeitung erfolgt auf dem Computer der Drohne selbst, anstatt zur Analyse gesendet zu werden.

Während die Drohnen neues Filmmaterial sammeln, speisen diese Daten einen Vision Ground Node, wo YOLO auf den neuen Frames feinabgestimmt wird, und ein aktualisiertes Modell wird zurück übertragen, ohne dass das Material jemals den Standort verlässt. Erkennungsmodelle müssen mit sich schnell ändernden Bedingungen und Daten, die nicht verschoben werden können, Schritt halten. Ein lokal neu trainiertes Modell bleibt nützlich, während ein statisches, zentral trainiertes Modell zurückfallen würde.

Abb. 1. Ein Beispiel dafür, wie Scaleout und Ultralytics YOLO KI-Drohnen antreiben (Quelle)

Das gleiche Muster geht weit über Drohnen hinaus. In industriellen Umgebungen wie Energieanlagen und entfernten Einrichtungen, wo die Daten jedes Standorts sensibel sind, verbessert die Plattform Erkennungsmodelle an vielen Standorten, ohne dass Rohdaten eine Anlagengrenze überschreiten. Ob die Daten auf einer Drohne oder einer festen Installation liegen, Scaleout behält das Material vor Ort und bewegt nur das, was das Modell gelernt hat.

Link to this sectionAdaptive KI für Umgebungen entwickeln, in denen sich Daten nicht bewegen können#

Während Scaleout wächst, erweitert es sein föderiertes, Edge-basiertes Computer Vision auf immer mehr Umgebungen und Hardware. Die vorgefertigten Module sind darauf ausgelegt, monatelange Integrationszeit auf wenige Tage zu verkürzen, sodass Kunden ihre eigene Hardware mitbringen und die adaptive Lernschleife übernehmen können, ohne den zugrunde liegenden Machine-Learning-Code neu schreiben zu müssen.

Mit Ultralytics YOLO im Kern seiner Erkennungspipeline ermöglicht Scaleout das Training und die Verbesserung von KI in genau den Umgebungen, in denen herkömmliche Ansätze scheitern: Daten bleiben vor Ort, der Betrieb geht weiter, wenn Netzwerke ausfallen, und Flotten von Edge-Geräten werden zu einem System, das als Ganzes stetig dazulernt.

Bereit herauszufinden, was Vision KI für dich tun kann? Besuche unser GitHub-Repository, um zu entdecken, wie YOLO-Modelle Bereiche wie KI in der Fertigung und Computer Vision in der Robotik transformieren. Sieh dir unsere Lizenzoptionen an und beginne deine Reise in Richtung smarterer Automatisierung.