Die 5 wichtigsten Tipps für die effiziente Bereitstellung von YOLO26 auf Edge-Geräten und in der Cloud

Im vergangenen Monat hat Ultralytics Ultralytics YOLO26 offiziell vorgestellt und damit einen neuen Standard für künstliche Intelligenz für die Bildverarbeitung gesetzt – einen Bereich der künstlichen Intelligenz, der Maschinen ermöglicht, visuelle Informationen aus Bildern und Videos zu interpretieren und zu verstehen. Anstatt lediglich Aufnahmen zu erfassen, unterstützen Computer-Vision-Modelle wie die Ultralytics-YOLO-Modelle Aufgaben der Bildverarbeitung wie Objekterkennung, Instanzsegmentierung, Posenschätzung und Bildklassifizierung.

Ultralytics YOLO26 wurde für den tatsächlichen Einsatz von Computer Vision entwickelt – auf Geräten, Kameras, Robotern und in Produktionssystemen. Das hochmoderne Modell ermöglicht eine schnellere Inferenz auf der zentralen Verarbeitungseinheit (CPU), eine vereinfachte Bereitstellung und eine effiziente End-to-End-Leistung in realen Umgebungen. Die YOLO26-Modelle wurden außerdem so konzipiert, dass sich Lösungen für Computer Vision einfach von der Entwicklung in den Produktionseinsatz überführen lassen.

Abb. 1: Das YOLO26-Nano-Modell ermöglicht eine bis zu 43 % schnellere CPU-Inferenz als YOLO11. (Quelle)

Bei der Modellbereitstellung müssen typischerweise verschiedene Aspekte berücksichtigt werden, etwa die Auswahl der passenden Hardware, eines geeigneten Exportformats, die Leistungsoptimierung und die Validierung der Ergebnisse unter realen Bedingungen. Dank des Ultralytics-Python-Pakets, das Training, Inferenz und Modell-Export für verschiedene Bereitstellungsziele vereinfacht, lassen sich diese Schritte bei der Bereitstellung von YOLO26 unkompliziert umsetzen.

Auch bei vereinfachten Arbeitsabläufen ist es jedoch entscheidend, die richtigen Entscheidungen für die Bereitstellung zu treffen. In diesem Artikel zeigen wir dir fünf praktische Tipps, mit denen du Ultralytics YOLO26 effizient in Edge- und Cloud-Umgebungen bereitstellen kannst, um eine zuverlässige und skalierbare Leistung für die Bildverarbeitung in der Produktion sicherzustellen. Legen wir los!

Was bedeutet Modellbereitstellung bei Computer Vision?#

Bevor wir uns mit Strategien für die Bereitstellung von Ultralytics YOLO26 beschäftigen, werfen wir zunächst einen Blick darauf, was Modellbereitstellung bei Computer Vision bedeutet.

Modellbereitstellung bezeichnet den Prozess, ein trainiertes Deep-Learning-Modell aus einer Entwicklungsumgebung in eine reale Anwendung zu überführen, in der es neue Bilder oder Videostreams verarbeitet und kontinuierlich Vorhersagen erzeugt. Statt Experimente mit statischen Datensätzen auszuführen, wird das Modell Teil eines laufenden Systems.

Bei Computer Vision bedeutet das häufig, das Modell in Kameras, Edge-KI-Geräte, APIs oder eine Cloud-Infrastruktur zu integrieren. Es muss innerhalb der Hardwarebeschränkungen arbeiten, Latenzanforderungen erfüllen und unter wechselnden realen Bedingungen eine konstante Leistung aufrechterhalten.

Das Verständnis dieses Übergangs von der Entwicklung zur Produktion ist entscheidend, da sich Entscheidungen zur Bereitstellung direkt darauf auswirken, wie gut ein Modell außerhalb eines Labors oder einer experimentellen Umgebung funktioniert.

Bereitstellungsabläufe von Ultralytics YOLO26 verstehen#

Als Nächstes sehen wir uns an, was ein Bereitstellungsablauf für Ultralytics YOLO26 tatsächlich umfasst. Einfach gesagt handelt es sich um eine Abfolge von Schritten, durch die ein Bild von der Aufnahme bis zur Analyse und Umwandlung in eine Vorhersage gelangt.

In einer typischen Konfiguration nimmt eine Kamera ein Bild oder einen Videoframe auf. Diese Daten werden anschließend vorverarbeitet, beispielsweise durch Größenänderung oder korrekte Formatierung, bevor sie zur Inferenz an Ultralytics YOLO26 übergeben werden.

Das Modell analysiert die Eingabe und erzeugt Ausgaben wie Begrenzungsrahmen, Segmentierungsmasken oder Keypoints. Diese Ergebnisse können anschließend Aktionen auslösen, etwa das Senden von Warnungen, das Aktualisieren eines Dashboards oder die Steuerung eines Robotersystems.

Wo dieser Ablauf ausgeführt wird, hängt von deiner Bereitstellungsstrategie ab. Bei einer Edge-Bereitstellung findet die Inferenz beispielsweise direkt auf dem Gerät oder in der Nähe der Kamera statt, wodurch sich die Latenz verringern und der Datenschutz verbessern lässt.

Bei einer Cloud-Bereitstellung werden Bilder oder Videoframes dagegen zur Verarbeitung an entfernte Server gesendet, was eine höhere Skalierbarkeit und eine zentrale Verwaltung ermöglicht. Einige Systeme nutzen einen hybriden Ansatz: Sie führen eine leichte Verarbeitung am Edge durch und verarbeiten rechenintensivere Aufgaben in der Cloud.

Varianten der Ultralytics-YOLO26-Modelle erkunden#

Für fundierte Entscheidungen zur Bereitstellung ist es außerdem wichtig zu wissen, dass verschiedene Varianten der Ultralytics-YOLO26-Modelle zur Auswahl stehen.

Ultralytics-YOLO-Modelle sind standardmäßig in mehreren Größen verfügbar. So kannst du leicht eine Version auswählen, die zu deiner Hardware und deinen Leistungsanforderungen passt. YOLO26 ist in fünf Varianten erhältlich: Nano (n), Small (s), Medium (m), Large (l) und Extra Large (x).

Die kleineren Modelle wie YOLO26n sind auf Effizienz optimiert und eignen sich hervorragend für Edge-Geräte, Geräte des Internets der Dinge (IoT), eingebettete Systeme und Systeme mit CPU, bei denen eine geringe Latenz und ein niedriger Energieverbrauch wichtig sind. Sie bieten eine hohe Leistung bei minimalem Ressourcenverbrauch.

Die größeren Modelle wie YOLO26l und YOLO26x wurden für eine höhere Genauigkeit und die Verarbeitung komplexerer Szenen entwickelt. Diese Varianten erzielen typischerweise die besten Ergebnisse auf Systemen mit Grafikprozessoren (GPUs) oder in Cloud-Umgebungen mit mehr verfügbaren Rechenressourcen.

Die Wahl der richtigen Modellgröße hängt von deinen Zielen bei der Bereitstellung ab. Wenn Geschwindigkeit und Effizienz auf eingeschränkter Hardware für dich oberste Priorität haben, ist eine kleinere Variante möglicherweise ideal. Wenn deine Anwendung maximale Genauigkeit erfordert und dir leistungsfähigere Hardware zur Verfügung steht, ist ein größeres Modell möglicherweise die bessere Wahl.

Tipps für die effiziente Bereitstellung von Ultralytics YOLO26#

Nachdem wir nun die Varianten der Ultralytics-YOLO26-Modelle und die Bereitstellungsabläufe besser verstehen, sehen wir uns einige praktische Tipps für die effiziente Bereitstellung von YOLO26 in Edge- und Cloud-Umgebungen an.

Tipp 1: Berücksichtige deine Optionen für die Modellbereitstellung#

Eine der ersten Entscheidungen bei der Bereitstellung von Ultralytics YOLO26 betrifft den Ausführungsort des Modells. Deine Bereitstellungsumgebung wirkt sich direkt auf Leistung, Latenz, Datenschutz und Skalierbarkeit aus.

Beginne mit einer Bewertung deines Arbeitsablaufs. Benötigt deine Anwendung eine geringe Latenz, sodass Vorhersagen nahezu sofort nach der Aufnahme eines Bildes erzeugt werden müssen?

In der Robotik oder in Sicherheitssystemen können beispielsweise bereits kleine Verzögerungen die Leistung beeinträchtigen. In solchen Fällen ist eine Edge-Bereitstellung häufig die beste Option. Wenn die Inferenz direkt auf einem Gerät oder in der Nähe der Kamera ausgeführt wird, verkürzt sich die Datenverarbeitungszeit. Außerdem müssen Bilder nicht über das Internet gesendet werden, was den Datenschutz verbessern kann.

Eine Cloud-Bereitstellung bietet dagegen eine höhere Skalierbarkeit und Rechenleistung. Cloud-Server können große Bildmengen verarbeiten, mehrere Videostreams handhaben und einen höheren Durchsatz unterstützen.

In der Landwirtschaft könnte ein Landwirt beispielsweise Tausende von Blattbildern aufnehmen und sie stapelweise analysieren, um festzustellen, ob die Pflanzen Anzeichen einer Krankheit zeigen. In einem solchen Szenario ist möglicherweise keine sofortige Echtzeitleistung erforderlich, sodass die Verarbeitung in der Cloud eine praktische und skalierbare Wahl darstellt.

Abb. 2: Beispiel für die Analyse von Blattbildern mit Ultralytics YOLO26

Das Senden von Daten an entfernte Server führt jedoch zu Netzwerklatenz – also zu einer Verzögerung, die durch die Übertragung von Bildern über das Internet und den anschließenden Empfang der Vorhersagen entsteht. Für Anwendungen, bei denen es nicht auf zeitnahe Ergebnisse ankommt, kann dieser Kompromiss akzeptabel sein.

Neben reinen Edge- und reinen Cloud-Lösungen gibt es weitere Optionen. Einige Unternehmen nutzen lokale Infrastruktur, die sich in der Nähe des Ortes befindet, an dem die Daten erzeugt werden. Andere entwickeln hybride Pipelines, die Daten am Edge leichtgewichtig filtern und ausgewählte Daten zur tieferen Analyse an die Cloud senden.

Die Wahl der richtigen Bereitstellungsoption hängt von den Anforderungen deiner Anwendung ab. Wenn du deinen Bedarf an Geschwindigkeit, Datenschutz und Skalierbarkeit klar definierst, kannst du eine Strategie auswählen, mit der Ultralytics YOLO26 unter realen Bedingungen zuverlässig arbeitet.

Tipp 2: Wähle ein Exportformat, das zu deiner Hardware passt#

Nachdem du den Ausführungsort deines Modells festgelegt hast, besteht der nächste Schritt in der Auswahl des richtigen Exportformats. Ein Modell zu exportieren bedeutet, es aus dem beim Training verwendeten Format in ein für die Bereitstellung optimiertes Format umzuwandeln.

Ultralytics-YOLO26-Modelle werden nativ in PyTorch erstellt und trainiert. Produktionsumgebungen nutzen jedoch häufig spezialisierte Laufzeitumgebungen, die besser auf bestimmte Hardware abgestimmt sind. Diese Laufzeitumgebungen wurden entwickelt, um die Inferenzgeschwindigkeit zu erhöhen, den Speicherverbrauch zu reduzieren und die Kompatibilität mit dem Zielgerät sicherzustellen.

Durch die Umwandlung von YOLO26 in das geeignete Format kann das Modell außerhalb der Trainingsumgebung effizient ausgeführt werden. Das Ultralytics-Python-Paket macht diesen Prozess unkompliziert und unterstützt zahlreiche Integrationen für die Entwicklung und Bereitstellung von Computer-Vision-Projekten.

Wenn du diese Integrationen genauer kennenlernen möchtest, kannst du die offizielle Dokumentation von Ultralytics aufrufen. Sie enthält Schritt-für-Schritt-Tutorials, hardwarespezifische Anleitungen und praxisnahe Beispiele, die dir helfen, die Entwicklung sicher in die Produktion zu überführen.

Abb. 3: Ultralytics unterstützt verschiedene Integrationen (Quelle)

Insbesondere unterstützt das Ultralytics-Python-Paket den Export von Ultralytics YOLO26 in mehrere Formate, die für verschiedene Hardwareplattformen optimiert sind. Das ONNX-Exportformat ermöglicht beispielsweise plattformübergreifende Kompatibilität, das TensorRT-Exportformat ist für NVIDIA-GPUs und NVIDIA-Jetson-Edge-Geräte optimiert, und das OpenVINO-Exportformat wurde für Intel-Hardware entwickelt.

Einige Geräte unterstützen mehr als ein Exportformat, die Leistung kann jedoch je nach Auswahl variieren. Statt standardmäßig ein Format auszuwählen, solltest du dich fragen: Welche Option ist für dein Gerät am effizientesten?

Ein Format ermöglicht möglicherweise eine schnellere Inferenz, während ein anderes eine bessere Speichereffizienz oder eine einfachere Integration in deine bestehende Pipeline bietet. Deshalb ist es wichtig, das Exportformat an deine konkrete Hardware und Bereitstellungsumgebung anzupassen.

Wenn du dir die Zeit nimmst, verschiedene Exportoptionen auf deinem Zielgerät zu testen, kann das die Leistung unter realen Bedingungen deutlich verbessern. Ein gut abgestimmtes Exportformat trägt dazu bei, dass Ultralytics YOLO26 effizient und zuverlässig mit der für deine Anwendung erforderlichen Geschwindigkeit läuft.

Tipp 3: Prüfe, ob dein Modell Quantisierung benötigt#

Nachdem du ein Exportformat ausgewählt hast, solltest du außerdem prüfen, ob dein Modell quantisiert werden sollte.

Modellquantisierung reduziert die numerische Präzision der Gewichte und Berechnungen eines Modells. Typischerweise werden sie dabei von 32-Bit-Gleitkommazahlen in Formate mit geringerer Präzision wie 16 oder 8 Bit umgewandelt. Dadurch lassen sich Modellgröße und Speicherverbrauch reduzieren sowie die Inferenzgeschwindigkeit erhöhen, insbesondere auf Edge-Geräten oder Systemen mit CPU.

Abhängig von deiner Hardware, deinem Exportformat und den Laufzeitabhängigkeiten kann Quantisierung die Leistung deutlich verbessern. Einige Laufzeitumgebungen sind für Modelle mit geringerer Präzision optimiert und können diese dadurch schneller und effizienter ausführen.

Eine un sorgfältig angewendete Quantisierung kann die Genauigkeit jedoch leicht beeinträchtigen. Bei der Quantisierung nach dem Training musst du die Validierungsbilder übergeben. Diese Bilder werden während der Kalibrierung verwendet, damit sich das Modell an die geringere Präzision anpassen und stabile Vorhersagen aufrechterhalten kann.

Tipp 4: Berücksichtige Datenverschiebungen#

Auch ein optimal trainiertes Modell kann im Laufe der Zeit aufgrund einer Datenverschiebung an Leistung verlieren. Eine Datenverschiebung tritt auf, wenn sich die Daten, die dein Modell in der Produktion sieht, von den Trainingsdaten unterscheiden.

Mit anderen Worten: Die reale Welt verändert sich, dein Modell jedoch nicht. Dadurch kann die Genauigkeit allmählich abnehmen.

Du könntest dein Ultralytics-YOLO26-Modell beispielsweise mit tagsüber aufgenommenen Bildern trainieren. Wenn dasselbe Modell später nachts unter anderen Lichtverhältnissen eingesetzt wird, kann die Leistung abnehmen. Das gleiche Problem kann bei Änderungen der Kamerawinkel, Wetterbedingungen, Hintergründe oder des Erscheinungsbilds von Objekten auftreten.

Datenverschiebungen treten in realen Systemen für künstliche Intelligenz zur Bildverarbeitung häufig auf. Umgebungen sind selten statisch, und kleine Veränderungen können die Erkennungsgenauigkeit beeinflussen. Um die Auswirkungen von Datenverschiebungen zu verringern, solltest du sicherstellen, dass dein Trainingsdatensatz die realen Bedingungen möglichst genau widerspiegelt.

Nimm Bilder auf, die zu unterschiedlichen Tageszeiten, unter verschiedenen Lichtverhältnissen und in unterschiedlichen Umgebungen entstanden sind. Nach der Bereitstellung kannst du die Leistung weiterhin überwachen und das Modell bei Bedarf aktualisieren oder feinabstimmen.

Tipp 5: Führe Benchmarks unter realen Bedingungen durch#

Bevor du dein Modell vollständig bereitstellst, kannst du es unter realen Bedingungen einem Benchmark unterziehen.

Abb. 4: Ein Blick auf das Benchmarking von YOLO26 im Vergleich zu anderen Modellen (Quelle)

Es ist üblich, die Leistung in kontrollierten Umgebungen anhand von Beispielbildern oder kleinen Datensätzen zu testen. Reale Systeme verhalten sich jedoch häufig anders. Hardwarebeschränkungen, Netzwerkverzögerungen, mehrere Videostreams und kontinuierliche Eingaben können die Leistung beeinflussen.

Benchmarking bezeichnet die Messung der Modellleistung auf dem tatsächlichen Gerät und in der Konfiguration, in der das Modell ausgeführt werden soll. Dazu gehören die Prüfung der Inferenzgeschwindigkeit, der Gesamtlatenz, des Speicherverbrauchs und der Systemstabilität. Wichtig ist, nicht nur das Modell selbst zu testen, sondern die gesamte Pipeline einschließlich der Vorverarbeitung und aller Schritte der Nachverarbeitung.

Ein Modell kann in einem Test mit einem einzelnen Bild gute Ergebnisse erzielen, aber bei der kontinuierlichen Verarbeitung von Live-Videos Schwierigkeiten haben. Ebenso muss die Leistung auf einer leistungsstarken Entwicklungsmaschine nicht dem Verhalten des Modells auf einem stromsparenden Edge-Gerät entsprechen.

Durch Benchmarks unter realistischen Bedingungen kannst du Engpässe frühzeitig erkennen und vor dem Produktivstart Anpassungen vornehmen. Wenn du in derselben Umgebung testest, in der Ultralytics YOLO26 eingesetzt werden soll, trägst du zu einer zuverlässigen, stabilen und konstanten Produktionsleistung bei.

Weitere wichtige Aspekte der Modellbereitstellung#

Hier sind einige zusätzliche Faktoren, die du bei der Bereitstellung von Ultralytics YOLO26 berücksichtigen solltest:

• Überwachung und Protokollierung: Richte Überwachungstools ein, um nach der Bereitstellung Metriken wie Latenz, Genauigkeit und Systemzustand zu verfolgen.
• Sicherheit und Datenschutz: Implementiere Schutzmaßnahmen für sensible visuelle Daten, insbesondere bei der Nutzung von Cloud- oder Remote-Infrastrukturen.
• Optimierung von Pipeline-Engpässen: Bewerte die gesamte Pipeline einschließlich Modulen wie Vorverarbeitung, Inferenz, Nachverarbeitung und Datenübertragung, da Verzögerungen auch außerhalb des Modells selbst auftreten können.
• Planung der Skalierbarkeit: Plane zukünftiges Wachstum, indem du sicherstellst, dass dein System erhöhten Datenverkehr, zusätzliche Kameras oder erweiterte Arbeitslasten bewältigen kann.

Wichtige Erkenntnisse#

Eine effiziente Bereitstellung von YOLO26 beginnt mit dem Verständnis dafür, wo dein Modell ausgeführt wird und was deine Anwendung tatsächlich benötigt. Durch die Wahl des richtigen Bereitstellungsansatzes, die Abstimmung des Exportformats auf deine Hardware und Leistungstests unter realen Bedingungen kannst du zuverlässige und reaktionsfähige Systeme für künstliche Intelligenz zur Bildverarbeitung entwickeln. Mit der richtigen Konfiguration erleichtert Ultralytics YOLO26 die Bereitstellung schneller, produktionsbereiter Computer Vision am Edge und in der Cloud.

Tritt unserer Community bei und erkunde unser GitHub-Repository. Sieh dir unsere Lösungsseiten an und entdecke verschiedene Anwendungen wie künstliche Intelligenz in der Landwirtschaft und Computer Vision im Gesundheitswesen. Entdecke unsere Lizenzoptionen und starte noch heute mit künstlicher Intelligenz für die Bildverarbeitung!