Die Auswirkungen des schnelleren, auf Edge-Geräte ausgerichteten Designs von Ultralytics YOLO26

Anfang dieser Woche hat Ultralytics offiziell Ultralytics YOLO26 eingeführt, ein schnelleres, leichteres und kleineres YOLO-Modell, das die Leistung von Computer-Vision-Systemen am Edge neu definieren soll. YOLO26 unterstützt dieselben grundlegenden Bildverarbeitungsaufgaben wie frühere YOLO-Modelle, darunter Objekterkennung und Instanzsegmentierung.

Abb. 1. Ein Beispiel für die Segmentierung eines Objekts mit Ultralytics YOLO26.

Der entscheidende Unterschied zwischen Ultralytics YOLO26 und früheren Modellen liegt in der Umgebung, für die es entwickelt wurde. Statt primär für Grafikprozessoren (GPUs) in der Cloud oder benchmarkbasierte Leistung optimiert zu sein, wurde YOLO26 von Grund auf für den praktischen Einsatz auf Edge-Geräten und eingebetteter Hardware entwickelt.

Während sich Computer Vision von der Forschung in die Produktion bewegt, wird die Realität der Leistungsbeschränkungen immer deutlicher. Edge-Umgebungen sind durch knappe Latenzbudgets, begrenzten Speicher, begrenzte Leistung und thermische Einschränkungen sowie durch die Notwendigkeit eines vorhersehbaren Verhaltens auf verschiedensten Plattformen geprägt.

In diesen Umgebungen hängt die Gesamtleistung des Systems nicht nur von der reinen Inferenzgeschwindigkeit ab, sondern auch davon, wie effizient die gesamte Pipeline arbeitet. Der Aufwand für die Nachverarbeitung, der Speicherdruck und plattformspezifische Ausführungspfade sind häufig Engpässe.

Ultralytics YOLO26 begegnet diesen Herausforderungen mit einem schnelleren Ansatz, bei dem Edge-Systeme im Mittelpunkt stehen und die gesamte Inferenzpipeline statt einzelner Modellmetriken betrachtet wird. Durch die Konzentration auf Edge-Optimierung, die Vereinfachung der Inferenzpipeline und die Entfernung unnötiger Nachverarbeitungsschritte erzielt YOLO26 Geschwindigkeitssteigerungen, die zu geringerer Latenz und einem zuverlässigeren Verhalten in der Produktion führen.

In diesem Artikel untersuchen wir, wie sich die Architekturentscheidungen von Ultralytics YOLO26 in praktischen Leistungssteigerungen niederschlagen und warum höhere Geschwindigkeit am Edge grundlegend verändert, was für Anwendungen der nächsten Generation im Bereich Computer Vision möglich ist.

Die Realität des Edge-Einsatzes#

Computer-Vision-Modelle am Edge auszuführen, unterscheidet sich deutlich von ihrer Ausführung in der Cloud. In Cloud-Umgebungen haben Systeme typischerweise Zugriff auf leistungsstarke GPUs, große Speichermengen und stabile Hardware. Am Edge gelten diese Annahmen nicht.

Die meisten Edge-Einsätze laufen auf unterschiedlichen Hardwarearchitekturen und nicht auf GPUs. Geräte verwenden typischerweise mehrere spezialisierte Prozessoren für verschiedene Aufgaben, die auf Effizienz und geringen Energieverbrauch statt auf die reine Rechenleistung von Cloud-GPUs optimiert sind.

Die Latenz ist eine weitere wichtige Einschränkung. Edge-Systeme arbeiten häufig unter strengen Echtzeitvorgaben, bei denen selbst kleine Verzögerungen die Reaktionsfähigkeit oder Sicherheit beeinträchtigen können. In diesen Fällen ist die Latenz von Ende zu Ende wichtiger als die reine Inferenzgeschwindigkeit. Ein Modell kann auf dem Papier schnell sein, aber dennoch hinter den Erwartungen zurückbleiben, sobald Nachverarbeitung und Datenbewegungen hinzukommen.

Auch der Speicher spielt eine große Rolle. Viele Edge-Geräte verfügen über begrenzten Speicher und gemeinsam genutzte Caches. Große Zwischentensoren und eine ineffiziente Speichernutzung können Systeme verlangsamen, selbst wenn das Modell an sich effizient ist.

Leistungs- und Temperaturgrenzen bringen weitere Einschränkungen mit sich. Edge-Geräte laufen häufig ohne aktive Kühlung und innerhalb festgelegter Leistungsbudgets. Die Leistung muss effizient und nachhaltig sein, nicht nur bei kurzen Spitzen schnell.

Darüber hinaus erfordern Edge-Einsätze ein konsistentes Verhalten. Modelle müssen sich auf verschiedenen Geräten und in unterschiedlichen Laufzeitumgebungen gleich verhalten. Plattformspezifischer Code oder komplexe Nachverarbeitungsschritte können subtile Unterschiede einführen, die Bereitstellung und Wartung von Systemen erschweren.

Abb. 2. Ein Blick auf die Einschränkungen beim Edge-Einsatz. Bild vom Autor.

Diese Einschränkungen bestimmen, was Leistung am Edge wirklich bedeutet. Anders gesagt: Die Leistung wird durch die gesamte Pipeline bestimmt, nicht durch eine einzelne Metrik.

Warum Computer Vision am Edge ein anderes Leistungsmodell erfordert#

Wie hängen also die Einschränkungen des Edge-Einsatzes mit den Anforderungen an ein für den Edge entwickeltes Computer-Vision-Modell zusammen? Der Zusammenhang wird deutlich, sobald Modelle aus Forschungsszenarien in reale Systeme überführt werden.

In Cloud-Umgebungen wird die Leistung häufig anhand von Benchmarks wie Inferenzgeschwindigkeit und Genauigkeit gemessen. Am Edge erzählen diese Metriken nur einen Teil der Geschichte. Bildverarbeitungssysteme laufen typischerweise auf heterogener Hardware, wobei die Inferenz neuronaler Netze an spezialisierte Beschleuniger ausgelagert wird, während andere Teile der Pipeline auf Universalprozessoren ausgeführt werden.

In diesem Zusammenhang reicht die Modellgeschwindigkeit nicht aus. Entscheidend ist, wie das gesamte System nach der Bereitstellung des Modells arbeitet. Ein Modell kann für sich genommen schnell wirken, aber dennoch hinter den Erwartungen zurückbleiben, wenn Nachverarbeitung, Datenbewegungen oder plattformspezifische Schritte zusätzlichen Aufwand verursachen.

Deshalb erfordert Computer Vision am Edge ein Leistungsmodell, das sich auf die Effizienz auf Systemebene statt auf isolierte Benchmarks konzentriert. Ultralytics YOLO26 trägt diesem Wandel Rechnung, indem es den Schwerpunkt auf Edge-Optimierung, eine schlanke Inferenz und eine für den praktischen Einsatz entwickelte Ausführung von Ende zu Ende legt.

Das Fundament der Geschwindigkeit: ein für Edge-Systeme entwickeltes Design#

Am Edge wird die Leistung dadurch bestimmt, wie gut ein Modell auf die tatsächliche Hardwarearchitektur des Geräts abgebildet werden kann. Die vorrangige Entwicklung für den Edge stellt sicher, dass Bildverarbeitungssysteme unabhängig von der jeweils verfügbaren Kombination von Verarbeitungseinheiten zuverlässig auf realen Plattformen laufen.

Ein auf Edge-Systeme ausgerichteter Ansatz priorisiert eine vorhersehbare und effiziente Ausführung auf heterogener Hardware, statt Modelle nachträglich anzupassen, die für Cloud-GPUs optimiert wurden. Einfach ausgedrückt bedeutet das, Operationen zu bevorzugen, die sich gut auf Beschleuniger für neuronale Netze übertragen lassen, nicht-neuronale Arbeit außerhalb des Modells zu minimieren und unnötige Komplexität zu reduzieren, die die Ausführung von Ende zu Ende verlangsamen kann.

Ultralytics YOLO26 wurde unter Berücksichtigung dieser Einschränkungen entwickelt. Seine Architektur konzentriert sich auf eine konsistente Leistung statt auf maximalen Durchsatz unter idealen Bedingungen. Durch die Vereinfachung der Ausführungspfade und die Beseitigung unnötiger Berechnungen reduziert YOLO26 den Aufwand in der gesamten Inferenzpipeline und nutzt die verfügbare Beschleunigung sowie die Speicherhierarchie des Geräts besser aus.

Dieser Ansatz verbessert auch die Zuverlässigkeit. Die Optimierung für Edge-Systeme führt zu besser vorhersehbaren Zeitabläufen und weniger Leistungsspitzen, was für Echtzeitsysteme entscheidend ist. Statt sich für die Geschwindigkeit auf spezialisierte Hardware oder aufwendige Nachverarbeitung zu verlassen, setzt Ultralytics YOLO26 auf Effizienz in der gesamten Inferenzpipeline.

Inferenz von Ende zu Ende und die Kosten der Nachverarbeitung#

Vielleicht fragst du dich, was es bedeutet, unnötige Nachverarbeitungsschritte zu entfernen. Um das zu verstehen, betrachten wir zunächst, wie herkömmliche Systeme zur Objekterkennung funktionieren.

In vielen Pipelines zur Objekterkennung endet die Inferenz nicht, wenn das Modell seine Vorhersagen erzeugt. Stattdessen gibt das Modell eine große Anzahl überlappender Begrenzungsrahmen aus, die anschließend gefiltert und verfeinert werden müssen, bevor sie verwendet werden können. Diese Bereinigung erfolgt durch Nachverarbeitungsschritte außerhalb des eigentlichen Modells.

Einer der häufigsten Nachverarbeitungsschritte ist die Unterdrückung nicht maximaler Werte (NMS). NMS vergleicht überlappende Begrenzungsrahmen und behält nur die Erkennungen mit der höchsten Konfidenz. Dabei werden Duplikate entfernt, die sich auf dasselbe Objekt beziehen. Dieser Ansatz ist zwar effektiv, verursacht jedoch zusätzliche Berechnungen nach Abschluss der Inferenz.

Abb. 3. NMS verstehen. Bild vom Autor.

Am Edge hat diese zusätzliche Arbeit ihren Preis. Nachverarbeitungsschritte wie NMS eignen sich nicht gut für die spezialisierten Beschleuniger, die für die Inferenz neuronaler Netze verwendet werden und für dichte neuronale Berechnungen statt für steuerungsintensive oder speicherintensive Operationen optimiert sind.

Dadurch verursacht NMS zusätzliche Latenz und einen höheren Speicherbedarf, wobei die Kosten mit steigender Anzahl der Erkennungen zunehmen. Selbst wenn das Modell an sich schnell ist, kann NMS weiterhin einen erheblichen Anteil der gesamten Laufzeit beanspruchen.

Die Nachverarbeitung erhöht außerdem die Komplexität des Systems. Da sie außerhalb des Modells stattfindet, muss sie für verschiedene Laufzeitumgebungen und Hardwareziele separat implementiert werden. Das führt häufig zu plattformspezifischen Codepfaden, inkonsistentem Verhalten auf verschiedenen Geräten und fragileren Bereitstellungspipelines.

Noch wichtiger ist, dass die Nachverarbeitung die Idee einer echten Leistung von Ende zu Ende untergräbt. Die Messung der Inferenzgeschwindigkeit des Modells zeigt nicht, wie sich das System in der Produktion verhält. Entscheidend ist letztlich die gesamte Zeit von der Eingabe bis zur fertigen Ausgabe, einschließlich jedes Schritts der Pipeline.

In diesen Situationen wird die Nachverarbeitung zu einem verborgenen Engpass am Edge. Sie erhöht die Latenz, beansprucht CPU-Ressourcen und erschwert die Bereitstellung, während sie außerhalb des eigentlichen Modells stattfindet.

Wie Ultralytics YOLO26 NMS entfernt und dadurch schneller wird#

YOLO26 entfernt NMS, indem es die Ursache doppelter Erkennungen behebt, statt sie nach der Inferenz zu bereinigen. Anstatt viele überlappende Vorhersagen zu erzeugen, die gefiltert werden müssen, wird das Modell darauf trainiert, direkt eine kleinere Menge sicherer, endgültiger Erkennungen zu erzeugen.

Möglich wird dies durch eine Änderung der Art und Weise, wie Erkennungen während des Trainings erlernt werden. Ultralytics YOLO26 fördert eine klarere Eins-zu-eins-Beziehung zwischen Objekten und Vorhersagen und reduziert Redundanz bereits an ihrer Quelle. Dadurch werden doppelte Erkennungen direkt im Netzwerk statt durch externe Nachverarbeitung aufgelöst.

Die Entfernung von NMS wirkt sich unmittelbar auf die Leistung am Edge aus. Da sich NMS nicht gut auf Beschleuniger für neuronale Netze abbilden lässt, verringert sein Wegfall Datenbewegungen und vermeidet aufwendige nicht-neuronale Verarbeitungsschritte. Das senkt die Latenz von Ende zu Ende und macht die Leistung vorhersehbarer, insbesondere auf Edge-Geräten, auf denen die Nachverarbeitung sonst einen beträchtlichen Teil der Gesamtlaufzeit beanspruchen kann.

Außerdem wird die Inferenzpipeline vereinfacht. Mit weniger Schritten außerhalb des Modells gibt es weniger Datenbewegungen und weniger Übergaben zwischen Komponenten. Die Ausgabe des Modells ist bereits das Endergebnis, wodurch die Ausführung vorhersehbarer wird.

DFL entfernen, um echte Leistung von Ende zu Ende zu ermöglichen#

Eine weitere Neuerung in Ultralytics YOLO26 ist die Entfernung von Distribution Focal Loss (DFL), das in früheren YOLO-Modellen für die Regression von Begrenzungsrahmen verwendet wurde. Statt eine einzelne Koordinate direkt vorherzusagen, erlernten Modelle mit DFL eine Verteilung möglicher Werte und leiteten daraus einen endgültigen Begrenzungsrahmen ab. Dieser Ansatz trug zur Verbesserung der Lokalisierungsgenauigkeit bei und war ein wichtiger Fortschritt in früheren Generationen.

Im Laufe der Zeit brachte DFL jedoch auch Nachteile mit sich. Die Vorhersage von Verteilungen erhöht den Rechenaufwand und die Komplexität der Modellarchitektur, was die Inferenz auf CPUs verlangsamen und den Export von Modellen in verschiedene Bereitstellungsformate erschweren kann. Außerdem legte DFL feste Regressionsbereiche fest, was die Flexibilität bei der Erkennung sehr großer Objekte einschränken konnte.

Ultralytics YOLO26 entfernt DFL als Teil seines Wegs hin zu einem einfacheren Design von Ende zu Ende. Die Regression von Begrenzungsrahmen wurde direkter gestaltet, wodurch unnötige Berechnungen reduziert und gleichzeitig die Genauigkeit beibehalten werden. Diese Änderung steht im Einklang mit dem NMS-freien Ansatz von YOLO26.

Woher die 43 % schnellere CPU-Inferenz kommen#

In CPU-basierten Benchmarks zeigt YOLO26 eine deutliche Leistungssteigerung gegenüber früheren YOLO-Modellen. Im Vergleich zu Ultralytics YOLO11 liefert das Nano-Modell von YOLO26 eine bis zu 43 % schnellere CPU-Inferenz – ein Unterschied, der sich in realen Edge-Einsätzen deutlich auswirkt.

Abb. 4. Benchmark der CPU-Geschwindigkeit von Ultralytics YOLO26.

Dieser Gewinn entsteht durch die Vereinfachung der gesamten Inferenzpipeline und nicht durch die Optimierung einer einzelnen Komponente. Die Ausführung von Ende zu Ende beseitigt den Aufwand für die Nachverarbeitung, eine direktere Methode zur Regression von Begrenzungsrahmen reduziert die Berechnungen, und CPU-orientierte Designentscheidungen verbessern die Ausführungseffizienz auf Universalprozessoren.

Zusammen reduzieren diese Änderungen die Latenz, senken die CPU-Auslastung und führen zu einer schnelleren, konsistenteren Leistung auf realer Edge-Hardware.

Der Einfluss von Ultralytics YOLO26 auf Edge-Einsatz und Exporte#

Die Leistungssteigerungen von Ultralytics YOLO26 gehen über eine schnellere Inferenz hinaus. Durch die Vereinfachung des Modells und die Reduzierung des Speicherbedarfs wird die Bereitstellung einfacher und der Betrieb in Edge-Umgebungen zuverlässiger.

Das Design von Ultralytics YOLO26 für die Ausführung von Ende zu Ende vereinfacht außerdem den Export. Durch weniger zusätzliche Komponenten und den Verzicht auf externe Nachverarbeitungsschritte sind exportierte Modelle vollständig in sich geschlossen. Das reduziert plattformspezifische Abhängigkeiten und trägt zu einem konsistenten Verhalten in verschiedenen Laufzeitumgebungen und auf unterschiedlichen Hardwarezielen bei.

In der Praxis bedeutet das, dass Ultralytics YOLO26 mithilfe verschiedener Exportformate einfacher auf Edge-Geräten wie Kameras, Robotern und eingebetteten Systemen bereitgestellt werden kann. Was du exportierst, ist auch das, was du ausführst – mit weniger Integrationsschritten und einem geringeren Risiko einer Abweichung zwischen Entwicklungs- und Bereitstellungsumgebung.

Schnellere Edge-Inferenz ermöglicht Robotik und industrielle KI für Bildverarbeitung#

Bisher haben wir betrachtet, wie das auf Edge-Systeme ausgerichtete Design von Ultralytics YOLO26 die Leistung auf Systemebene verbessert. Die eigentliche Wirkung zeigt sich jedoch darin, dass sich KI für Bildverarbeitung leichter in reale Anwendungen integrieren lässt.

Beispielsweise arbeiten Bildverarbeitungssysteme in der Robotik und in industriellen Umgebungen häufig unter strengen Echtzeitvorgaben. Entscheidungen müssen schnell und konsistent getroffen werden, mit begrenzter Rechenleistung und ohne Abhängigkeit von einer Cloud-Verbindung. Mit Ultralytics YOLO26 wird die Erfüllung dieser Anforderungen praktikabel.

Anwendungen wie die Navigation von Robotern und die Objektmanipulation profitieren von geringerer Latenz und einer besser vorhersehbaren Inferenz, sodass Roboter reibungslos auf Veränderungen in ihrer Umgebung reagieren können. Ebenso können in industriellen Umgebungen Bildverarbeitungsmodelle direkt auf Produktionslinien laufen, um Fehler zu erkennen, Komponenten zu verfolgen und Prozesse zu überwachen, ohne Verzögerungen oder zusätzliche Komplexität zu verursachen.

Indem Ultralytics YOLO26 eine schnelle und zuverlässige Inferenz auf Edge-Hardware ermöglicht, trägt es dazu bei, dass KI für Bildverarbeitung zu einem natürlichen Bestandteil von Robotik- und Industriesystemen wird, statt eine Herausforderung bei Bereitstellung und Wartung zu sein.

Wichtige Erkenntnisse#

Ultralytics YOLO26 wurde für den Edge entwickelt, wo reale Einschränkungen wie Latenz, Speicher und Zuverlässigkeit bestimmen, was möglich ist. Durch die Ausrichtung des Modells auf eine CPU-zentrierte Ausführung, Inferenz von Ende zu Ende und eine einfachere Bereitstellung macht YOLO26 KI für Bildverarbeitung praktisch in reale Systeme integrierbar. Dieser auf Edge-Systeme ausgerichtete Ansatz ermöglicht eine große Bandbreite an Anwendungen – von Robotik und industrieller Bildverarbeitung bis hin zu eingebetteter und geräteinterner KI –, bei denen Leistung und Vorhersagbarkeit besonders wichtig sind.

Werde Teil unserer wachsenden Community und sieh dir unser GitHub-Repository mit praxisnahen Ressourcen für KI an. Wenn du heute mit KI für Bildverarbeitung arbeiten möchtest, informiere dich über unsere Lizenzoptionen. Erfahre, wie KI in der Landwirtschaft den Ackerbau verändert und wie KI für Bildverarbeitung im Gesundheitswesen die Zukunft gestaltet, indem du unsere Lösungsseiten besuchst.