Die Auswirkungen des schnelleren Edge-First-Designs von Ultralytics YOLO26

Anfang dieser Woche hat Ultralytics offiziell Ultralytics YOLO26 vorgestellt, ein schnelleres, leichteres und kleineres YOLO-Modell, das darauf abzielt, die Leistung von Computer-Vision-Systemen am Edge neu zu definieren. YOLO26 unterstützt dieselben Kern-Vision-Aufgaben wie vorherige YOLO-Modelle, einschließlich Objekterkennung und Instanzsegmentierung.

Abb. 1: Ein Beispiel für die Verwendung von Ultralytics YOLO26 zur Segmentierung eines Objekts.

Der entscheidende Unterschied zwischen Ultralytics YOLO26 und früheren Modellen liegt in der Umgebung, für die das Modell entwickelt wurde. Anstatt primär für Cloud-Grafikprozessoren (GPUs) oder Benchmark-getriebene Leistung zu optimieren, wurde YOLO26 von Grund auf für den realen Einsatz auf Edge-Geräten und eingebetteter Hardware entwickelt.

Da Computer Vision von der Forschung in die Produktion übergeht, wird die Realität von Leistungsbeschränkungen immer deutlicher. Edge-Umgebungen sind durch enge Latenzbudgets, begrenzten Speicher, Strom- und Thermikbeschränkungen sowie die Notwendigkeit eines vorhersehbaren Verhaltens über verschiedene Plattformen hinweg geprägt.

In diesen Umgebungen hängt die Gesamtleistung des Systems nicht nur von der reinen Inferenzgeschwindigkeit ab, sondern auch davon, wie effizient die gesamte Pipeline arbeitet. Post-Processing-Overhead, Speicherauslastung und plattformspezifische Ausführungspfade sind oft Engpässe.

Ultralytics YOLO26 begegnet diesen Herausforderungen mit einem schnelleren, Edge-zentrierten Ansatz, der die gesamte Inferenz-Pipeline anstelle einzelner Modellmetriken betrachtet. Durch die Fokussierung auf Edge-Optimierung, die Vereinfachung der Inferenz-Pipeline und das Entfernen unnötiger Nachbearbeitungsschritte liefert YOLO26 Geschwindigkeitsverbesserungen, die zu geringerer Latenz und zuverlässigerem Verhalten in der Produktion führen.

In diesem Artikel untersuchen wir, wie sich die architektonischen Entscheidungen von Ultralytics YOLO26 in reale Leistungssteigerungen umsetzen und warum eine höhere Geschwindigkeit am Edge grundlegend verändert, was für Computer Vision-Anwendungen der nächsten Generation möglich ist.

Die Realität des Edge-Deployments#

Das Ausführen von Computer-Vision-Modellen am Edge unterscheidet sich stark davon, sie in der Cloud auszuführen. In Cloud-Umgebungen haben Systeme typischerweise Zugriff auf leistungsstarke GPUs, große Speichermengen und stabile Hardware. Am Edge gelten diese Annahmen nicht.

Die meisten Edge-Deployments laufen auf diversen Hardware-Architekturen, nicht auf GPUs. Geräte nutzen normalerweise mehrere spezialisierte Prozessoren für verschiedene Aufgaben, die auf Effizienz und geringen Stromverbrauch optimiert sind, anstatt auf die reine Rechenleistung von Cloud-GPUs.

Latenz ist eine weitere wichtige Einschränkung. Edge-Systeme arbeiten oft unter engen Echtzeit-Grenzen, bei denen selbst kleine Verzögerungen die Reaktionsfähigkeit oder Sicherheit beeinträchtigen können. In diesen Fällen zählt die End-to-End-Latenz mehr als die reine Inferenzgeschwindigkeit. Ein Modell kann auf dem Papier schnell sein, aber dennoch schwächeln, sobald Post-Processing und Datenbewegungen hinzukommen.

Auch der Speicher spielt eine große Rolle. Viele Edge-Geräte verfügen über begrenzten Speicher und geteilte Caches. Große Zwischentensoren und ineffiziente Speichernutzung können Systeme verlangsamen, selbst wenn das Modell selbst effizient ist.

Strom- und Wärmegrenzen stellen weitere Einschränkungen dar. Edge-Geräte laufen oft ohne aktive Kühlung und innerhalb fester Strombudgets. Die Leistung muss effizient und nachhaltig sein, nicht nur in kurzen Schüben schnell.

Darüber hinaus erfordern Edge-Deployments Konsistenz. Modelle müssen sich über Geräte und Runtimes hinweg gleich verhalten. Plattformspezifischer Code oder komplexe Post-Processing-Schritte können subtile Unterschiede einführen, die die Bereitstellung und Wartung von Systemen erschweren.

Abb. 2: Ein Blick auf die Einschränkungen beim Edge-Deployment. Bild vom Autor.

Diese Einschränkungen definieren, was Leistung am Edge wirklich bedeutet. Mit anderen Worten: Die Leistung wird durch die gesamte Pipeline definiert, nicht durch eine einzelne Metrik.

Warum Edge-Vision ein anderes Leistungsmodell erfordert#

Wie hängen also die Einschränkungen des Edge-Deployments mit den Anforderungen eines für den Edge entwickelten Computer-Vision-Modells zusammen? Der Zusammenhang wird klar, sobald Modelle aus der Forschung in reale Systeme überführt werden.

In Cloud-Umgebungen wird die Leistung oft anhand von Benchmarks wie Inferenzgeschwindigkeit und Genauigkeit gemessen. Am Edge erzählen diese Metriken nur einen Teil der Geschichte. Vision-Systeme laufen typischerweise auf heterogener Hardware, bei der die neuronale Netzwerkinferenz an spezialisierte Beschleuniger ausgelagert wird, während andere Teile der Pipeline auf Allzweckprozessoren laufen.

In diesem Kontext reicht die Modellgeschwindigkeit allein nicht aus. Entscheidend ist, wie das gesamte System funktioniert, sobald das Modell bereitgestellt wurde. Ein Modell kann für sich genommen schnell erscheinen, aber dennoch schwächeln, wenn Post-Processing, Datenbewegungen oder plattformspezifische Schritte Overhead verursachen.

Deshalb erfordert Edge Vision ein Leistungsmodell, das sich auf Effizienz auf Systemebene statt auf isolierte Benchmarks konzentriert. Ultralytics YOLO26 spiegelt diesen Wandel wider, indem es sich auf Edge-First-Optimierung, optimierte Inferenz und End-to-End-Ausführung für den realen Einsatz konzentriert.

Die Grundlage für Geschwindigkeit: Ein Edge-first-Design#

Am Edge wird die Leistung dadurch definiert, wie gut ein Modell auf die tatsächliche Hardware-Architektur des Geräts abgestimmt ist. Ein Edge-first-Design stellt sicher, dass Vision-Systeme zuverlässig auf realen Plattformen laufen, unabhängig von der spezifischen Kombination der verfügbaren Prozessoren.

Ein Edge-first-Ansatz priorisiert eine vorhersagbare und effiziente Ausführung auf heterogener Hardware, anstatt Modelle, die für Cloud-GPUs optimiert wurden, nachträglich anzupassen. Einfach gesagt bedeutet dies, Operationen zu bevorzugen, die sich gut auf neuronale Netzwerkbeschleuniger übersetzen lassen, nicht-neuronale Arbeit außerhalb des Modells zu minimieren und unnötige Komplexität zu reduzieren, die die End-to-End-Ausführung verlangsamen kann.

Ultralytics YOLO26 wurde unter Berücksichtigung dieser Einschränkungen entwickelt. Seine Architektur konzentriert sich auf konsistente Leistung anstelle von Spitzendurchsatz unter idealen Bedingungen. Durch die Vereinfachung von Ausführungspfaden und die Eliminierung unnötiger Berechnungen reduziert YOLO26 den Overhead in der gesamten Inferenz-Pipeline und nutzt die verfügbare Beschleunigungs- und Speicherhierarchie des Geräts optimaler.

Dieser Ansatz verbessert auch die Zuverlässigkeit. Die Edge-First-Optimierung führt zu vorhersehbareren Zeiten und weniger Leistungspitzen, was für Echtzeitsysteme von entscheidender Bedeutung ist. Anstatt sich auf spezialisierte Hardware oder eine aufwändige Nachbearbeitung zu verlassen, um Geschwindigkeit zu erreichen, legt Ultralytics YOLO26 den Schwerpunkt auf Effizienz über die gesamte Inferenz-Pipeline hinweg.

End-to-End-Inferenz und die Kosten des Post-Processing#

Du fragst dich vielleicht, was es bedeutet, unnötige Post-Processing-Schritte zu eliminieren. Um dies zu verstehen, lass uns einen Schritt zurücktreten und betrachten, wie herkömmliche Objekterkennungssysteme funktionieren.

In vielen Objekterkennungs-Pipelines endet die Inferenz nicht, wenn das Modell seine Vorhersagen trifft. Stattdessen gibt das Modell eine große Anzahl überlappender Bounding Boxes aus, die dann gefiltert und verfeinert werden müssen, bevor sie verwendet werden können. Diese Bereinigung erfolgt durch Post-Processing-Schritte, die außerhalb des Modells selbst ausgeführt werden.

Einer der häufigsten Nachbearbeitungsschritte ist die Non-Maximum Suppression oder NMS. NMS vergleicht überlappende Bounding Boxes und behält nur die Detektionen mit der höchsten Konfidenz bei, während Duplikate entfernt werden, die sich auf dasselbe Objekt beziehen. Dieser Ansatz ist zwar effektiv, erfordert jedoch zusätzlichen Rechenaufwand nach Abschluss der Inferenz.

Abb. 3: Verständnis von NMS. Bild vom Autor.

Am Edge hat diese zusätzliche Arbeit ihren Preis. Post-Processing-Schritte wie NMS sind nicht gut für die spezialisierten Beschleuniger geeignet, die für die neuronale Netzwerkinferenz verwendet werden, da diese auf dichte neuronale Berechnungen statt auf steuerungsintensive oder speicherintensive Operationen optimiert sind.

Infolgedessen führt NMS zu zusätzlicher Latenz und Speicher-Overhead, und die Kosten steigen mit der Anzahl der Erkennungen. Selbst wenn das Modell selbst schnell ist, kann NMS dennoch einen erheblichen Teil der Gesamtlaufzeit beanspruchen.

Post-Processing erhöht auch die Systemkomplexität. Da es außerhalb des Modells liegt, muss es für verschiedene Runtimes und Hardware-Ziele separat implementiert werden. Dies führt oft zu plattformspezifischen Codepfaden, inkonsistentem Verhalten über Geräte hinweg und anfälligeren Deployment-Pipelines.

Am wichtigsten ist, dass Post-Processing die Idee der echten End-to-End-Leistung zerstört. Die Messung der Modell-Inferenzgeschwindigkeit spiegelt nicht wider, wie sich das System in der Produktion verhält. Was letztendlich zählt, ist die Gesamtzeit vom Eingang bis zum endgültigen Ausgang, einschließlich jedes Schrittes in der Pipeline.

In diesen Situationen wird Post-Processing zu einem versteckten Engpass am Edge. Es erhöht die Latenz, verbraucht CPU-Ressourcen und verkompliziert das Deployment, während es sich außerhalb des Modells selbst befindet.

Wie Ultralytics YOLO26 NMS entfernt und warum es dadurch schneller wird#

YOLO26 entfernt NMS, indem es die Ursache von doppelten Detektionen an der Wurzel packt, anstatt sie nach der Inferenz zu bereinigen. Anstatt viele überlappende Vorhersagen zu erzeugen, die gefiltert werden müssen, ist das Modell darauf trainiert, direkt einen kleineren Satz konfidenter Enddetektionen zu generieren.

Dies wird dadurch ermöglicht, dass die Art und Weise geändert wird, wie Detektionen während des Trainings gelernt werden. Ultralytics YOLO26 fördert eine klarere Eins-zu-Eins-Beziehung zwischen Objekten und Vorhersagen, wodurch Redundanz an ihrer Quelle reduziert wird. Infolgedessen werden doppelte Detektionen direkt im Netzwerk selbst aufgelöst und nicht durch externe Nachbearbeitung.

Das Entfernen von NMS hat unmittelbare Auswirkungen auf die Edge-Leistung. Da NMS nicht gut auf neuronale Netzwerkbeschleuniger übertragen werden kann, reduziert dessen Eliminierung die Speicherbewegung und vermeidet teure nicht-neuronale Verarbeitungsschritte. Dies senkt die End-to-End-Latenz und macht die Leistung vorhersagbarer, insbesondere auf Edge-Geräten, auf denen Post-Processing sonst einen spürbaren Teil der Gesamtlaufzeit beanspruchen kann.

Es vereinfacht auch die Inferenz-Pipeline. Mit weniger Schritten außerhalb des Modells gibt es weniger Datenbewegungen und weniger Übergaben zwischen den Komponenten. Die Ausgabe des Modells ist bereits das Endergebnis, was die Ausführung vorhersagbarer macht.

Entfernen von DFL zur Ermöglichung echter End-to-End-Leistung#

Eine weitere Innovation in Ultralytics YOLO26 ist die Entfernung von Distribution Focal Loss (bzw. DFL), das in früheren YOLO-Modellen für die Bounding-Box-Regression verwendet wurde. Anstatt direkt eine einzelne Koordinate vorherzusagen, lernten Modelle mit DFL eine Verteilung möglicher Werte und leiteten daraus eine finale Bounding Box ab. Dieser Ansatz trug dazu bei, die Lokalisierungsgenauigkeit zu verbessern, und war ein wichtiger Schritt nach vorn in früheren Generationen.

Im Laufe der Zeit brachte DFL jedoch auch Kompromisse mit sich. Die Vorhersage von Verteilungen erhöht den Rechenaufwand und fügt der Modellarchitektur Komplexität hinzu, was die Inferenz auf CPUs verlangsamen und den Export von Modellen über verschiedene Bereitstellungsformate hinweg erschweren kann. Darüber hinaus legte DFL feste Regressionsbereiche fest, was die Flexibilität bei der Erkennung sehr großer Objekte einschränken konnte.

Ultralytics YOLO26 entfernt DFL als Teil seines Übergangs zu einem einfacheren End-to-End-Design. Die Bounding-Box-Regression wurde so umgestaltet, dass sie direkter ist, wodurch unnötige Berechnungen bei gleichbleibender Genauigkeit reduziert werden. Diese Änderung steht im Einklang mit dem NMS-freien Ansatz von YOLO26.

Woher die 43 % schnellere CPU-Inferenz kommt#

In CPU-basierten Benchmarks zeigt YOLO26 eine deutliche Leistungssteigerung gegenüber früheren YOLO-Modellen. Verglichen mit Ultralytics YOLO11 bietet das YOLO26-Nano-Modell eine bis zu 43 % schnellere CPU-Inferenz – ein Unterschied, der sich in realen Edge-Bereitstellungen stark auswirkt.

Abb. 4: Benchmarking der CPU-Geschwindigkeit von Ultralytics YOLO26.

Dieser Gewinn resultiert aus der Vereinfachung der gesamten Inferenz-Pipeline anstatt der Optimierung einer einzelnen Komponente. Die End-to-End-Ausführung entfernt den Overhead durch Post-Processing, eine direktere Methode für die Bounding-Box-Regression reduziert Berechnungen und Edge-first-Design-Entscheidungen verbessern die Ausführungseffizienz auf Allzweckprozessoren.

Zusammen reduzieren diese Änderungen die Latenz, verringern die CPU-Arbeitslast und führen zu einer schnelleren, konsistenteren Leistung auf realer Edge-Hardware.

Die Auswirkungen von Ultralytics YOLO26 auf Edge-Bereitstellung und Exporte#

Die Leistungssteigerungen von Ultralytics YOLO26 gehen über eine schnellere Inferenz hinaus. Durch die Vereinfachung des Modells und die Reduzierung des Speicheraufwands wird die Bereitstellung einfacher und der Betrieb in Edge-Umgebungen zuverlässiger.

Das End-to-End-Design von Ultralytics YOLO26 vereinfacht auch den export. Mit weniger Hilfskomponenten und keinen externen Nachbearbeitungsschritten sind exportierte Modelle vollständig in sich geschlossen. Dies reduziert plattformspezifische Abhängigkeiten und trägt dazu bei, ein konsistentes Verhalten über Runtimes und Hardware-Ziele hinweg sicherzustellen.

In der Praxis bedeutet dies, dass Ultralytics YOLO26 einfacher auf Edge-Geräten wie Kameras, Robotern und eingebetteten Systemen unter Verwendung verschiedener Exportformate bereitgestellt werden kann. Was du exportierst, ist das, was du ausführst, mit weniger Integrationsschritten und einem geringeren Risiko von Deployment Drift.

Schnellere Edge-Inferenz ermöglicht Robotik und industrielle Vision AI#

Bisher haben wir uns angesehen, wie das Edge-First-Design von Ultralytics YOLO26 die Leistung auf Systemebene verbessert. Die wahre Wirkung liegt jedoch darin, wie es die Integration von Vision AI in reale Anwendungen erleichtert.

In der Robotik und in industriellen Umgebungen arbeiten Vision-Systeme beispielsweise häufig unter strengen Echtzeit-Beschränkungen. Entscheidungen müssen schnell und konsistent getroffen werden, mit begrenzter Rechenleistung und ohne Abhängigkeit von Cloud-Konnektivität. Mit Ultralytics YOLO26 wird die Erfüllung dieser Anforderungen praktikabel.

Anwendungen wie Roboternavigation und Objektmanipulation profitieren von geringerer Latenz und vorhersagbarerer Inferenz, was Robotern ermöglicht, flüssig auf Änderungen in ihrer Umgebung zu reagieren. Ähnlich können Vision-Modelle in industriellen Umgebungen direkt an Produktionslinien laufen, um Defekte zu erkennen, Komponenten zu verfolgen und Prozesse zu überwachen, ohne Verzögerungen oder zusätzliche Komplexität einzuführen.

Indem es eine schnelle und zuverlässige Inferenz auf Edge-Hardware ermöglicht, trägt Ultralytics YOLO26 dazu bei, dass Vision AI zu einem natürlichen Bestandteil von Robotik- und Industriepulsen wird, anstatt eine Herausforderung bei der Bereitstellung und Wartung darzustellen.

Wichtige Erkenntnisse#

Ultralytics YOLO26 wurde für die Edge entwickelt, wo reale Einschränkungen wie Latenz, Speicher und Zuverlässigkeit definieren, was möglich ist. Durch die Ausrichtung des Modells auf CPU-basierte Ausführung, End-to-End-Inferenz und einfachere Bereitstellung macht YOLO26 Vision-KI in echten Systemen praktisch integrierbar. Dieser Edge-zentrierte Ansatz ermöglicht ein breites Anwendungsspektrum von Robotik und industrieller Bildverarbeitung bis hin zu eingebetteter und On-Device-KI, wo Leistung und Vorhersagbarkeit am wichtigsten sind.

Werde Teil unserer wachsenden Community und entdecke unser GitHub-Repository für praxisnahe KI-Ressourcen. Um noch heute mit Vision-KI zu entwickeln, erkunde unsere Lizenzierungsoptionen. Erfahre auf unseren Lösungsseiten, wie KI in der Landwirtschaft die Landwirtschaft verändert und wie Vision-KI im Gesundheitswesen die Zukunft gestaltet.