Ultralytics YOLO-Modelle mithilfe der ONNX-Integration exportieren

Als KI-Lösungen erstmals Aufmerksamkeit erregten, wurden die meisten Modelle auf leistungsstarken Servern in kontrollierten Umgebungen bereitgestellt. Mit dem technologischen Fortschritt hat sich die Bereitstellung jedoch weit über Rechenzentren hinaus ausgeweitet.

Heute laufen KI-Modelle auf ganz unterschiedlichen Geräten – von Cloud-Servern und Desktopcomputern bis hin zu Smartphones und Edge-Geräten. Dieser Wandel ermöglicht schnellere Verarbeitung, Offline-Funktionen und intelligentere Systeme, die näher am Entstehungsort der Daten arbeiten.

Besonders deutlich wird dies bei der Computer Vision, einem Teilgebiet der KI, das Maschinen in die Lage versetzt, visuelle Daten zu interpretieren. Computer Vision ermöglicht Anwendungen wie Gesichtserkennung, autonomes Fahren und Videoanalyse in Echtzeit. Mit der zunehmenden Verbreitung dieser Anwendungen steigt auch der Bedarf an Modellen, die reibungslos auf unterschiedlichen Geräten und Plattformen laufen.

Computer-Vision-Modelle auf verschiedenen Zielplattformen bereitzustellen, ist jedoch nicht immer einfach. Geräte unterscheiden sich hinsichtlich Hardware, Betriebssystemen und unterstützten Frameworks. Deshalb sind Flexibilität und Kompatibilität entscheidend.

Deshalb ist es wichtig, Computer-Vision-Modelle wie Ultralytics YOLO11 in verschiedene Formate exportieren zu können. So bietet beispielsweise die von Ultralytics unterstützte ONNX-Integration (Austausch offener neuronaler Netze) eine praktische Möglichkeit, die Lücke zwischen Training und Bereitstellung zu schließen. ONNX ist ein offenes Format, das Modelle unabhängig von Frameworks macht und sie für die Bereitstellung auf verschiedenen Plattformen vorbereitet.

Abb. 1. ONNX hilft dir dabei, ein in einem Framework trainiertes Modell einfach in einem anderen auszuführen.

In diesem Artikel werfen wir einen genaueren Blick auf die von Ultralytics unterstützte ONNX-Integration und sehen uns an, wie du dein YOLO11-Modell für eine flexible, plattformübergreifende Bereitstellung exportieren kannst.

Was sind ONNX und ONNX Runtime?#

Open Neural Network Exchange ist ein Open-Source-Projekt, das ein Standardformat für Machine-Learning-Modelle definiert. Ursprünglich von Microsoft und Facebook entwickelt, ermöglicht es Entwicklern, ein Modell in einem Framework wie PyTorch zu trainieren und in einem anderen, beispielsweise TensorFlow, auszuführen. Das macht die KI-Entwicklung flexibler, kollaborativer und zugänglicher – insbesondere in Bereichen wie der Computer Vision.

ONNX bietet einen gemeinsamen Satz von Operatoren und ein einheitliches Dateiformat, sodass sich Modelle leichter zwischen verschiedenen Tools, Frameworks, Laufzeitumgebungen und Compilern übertragen lassen. Normalerweise ist ein in einem Framework trainiertes Modell nicht ohne Weiteres mit einem anderen kompatibel – mit ONNX kannst du dein Modell jedoch einmal exportieren und fast überall bereitstellen: auf CPUs (Zentraleinheiten), GPUs (Grafikprozessoren), Mobilgeräten oder Edge-Hardware.

Außerdem ist ONNX Runtime eine leistungsstarke Inferenz-Engine, die speziell für die Ausführung von Modellen im ONNX-Format entwickelt wurde. Sie sorgt dafür, dass ONNX-Modelle auf einer Vielzahl von Plattformen schneller und effizienter laufen – darunter Server, Mobilgeräte und Edge-Hardware. ONNX Runtime ist mit gängigen Frameworks wie PyTorch, TensorFlow, TensorFlow Lite und scikit-learn kompatibel und lässt sich dadurch leicht in verschiedene Arbeitsabläufe integrieren. So kannst du Modelle überall dort bereitstellen, wo sie gebraucht werden.

Abb. 2. ONNX und ONNX Runtime ermöglichen eine flexible, plattformübergreifende Bereitstellung von Modellen.

Wichtige Funktionen von ONNX#

Bevor wir besprechen, wie du Ultralytics YOLO11 ins ONNX-Format exportierst, sehen wir uns einige wichtige Funktionen des ONNX-Modellformats an.

Ob du zwischen Tools wechselst, Modelle auf unterschiedlichen Geräten bereitstellst oder Systeme aktualisierst – ONNX sorgt dafür, dass alles reibungslos läuft. Das zeichnet das ONNX-Modellformat aus:

• Ein Standardformat: ONNX verwendet eine einheitliche Beschreibung für den Aufbau von Modellen, etwa für Schichten und Operationen (stell sie dir als Bausteine vor). Bei der Konvertierung eines Modells ins ONNX-Format folgt es diesem Standard, sodass jedes System, das ONNX unterstützt, das Modell verstehen und ausführen kann.
• Abwärtskompatibilität: Auch wenn ONNX kontinuierlich verbessert wird, bleiben ältere Modelle mit neueren Versionen kompatibel. Du musst deine Modelle also nicht bei jeder Aktualisierung von ONNX neu trainieren oder erstellen.
• Graphbasierter Modellaufbau: ONNX-Modelle sind als Berechnungsgraphen strukturiert. Jeder Knoten stellt eine Operation dar, zum Beispiel eine Schicht oder eine mathematische Funktion, und die Kanten zeigen den Datenfluss an. Dieser graphbasierte Aufbau erleichtert die Integration in verschiedene Systeme, die ähnliche Berechnungsgraphen verwenden.
• Entwicklerfreundliche Tools: ONNX umfasst zahlreiche Tools, mit denen du deine Modelle konvertieren, validieren und optimieren kannst. Diese Tools vereinfachen die Übertragung von Modellen zwischen verschiedenen Frameworks und können die Bereitstellung beschleunigen – insbesondere bei Computer-Vision-Anwendungen.

Überblick über die ONNX-Integration#

Der Export von Ultralytics-YOLO-Modellen wie Ultralytics YOLO11 ins ONNX-Format ist unkompliziert und lässt sich in wenigen Schritten erledigen.

Installiere zunächst das Ultralytics-Python-Paket mit einem Paketmanager wie pip. Führe dazu pip install ultralytics in der Eingabeaufforderung oder im Terminal aus.

Mit dem Ultralytics-Paket kannst du Modelle für verschiedene Computer-Vision-Aufgaben einfach trainieren, testen, feinabstimmen, exportieren und bereitstellen. So wird der gesamte Prozess schneller und effizienter. Solltest du bei der Installation auf Schwierigkeiten stoßen, findest du im Leitfaden zu häufigen Problemen Lösungen und Tipps.

Sobald das Ultralytics-Paket installiert ist, kannst du das YOLO11-Modell mit dem folgenden Code laden und ins ONNX-Format exportieren. Dieses Beispiel lädt ein vortrainiertes YOLO11-Modell (yolo11n.pt) und exportiert es als ONNX-Datei (yolo11n.onnx), die anschließend auf verschiedenen Plattformen und Geräten bereitgestellt werden kann.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="onnx")

Die gleichen Schritte funktionieren auch mit neueren Modellen wie Ultralytics YOLO26. Nachdem du dein Modell in das ONNX-Format konvertiert und bestätigt hast, dass es dieselben Ergebnisse wie das Original liefert, kannst du es auf verschiedenen Plattformen bereitstellen.

Das folgende Beispiel zeigt, wie du das exportierte YOLO11-Modell (yolo11n.onnx) lädst und damit eine Inferenz ausführst. Inferenz bedeutet einfach, das trainierte Modell zu verwenden, um Vorhersagen für neue Daten zu treffen. In diesem Fall verwenden wir die URL eines Busbilds, um das Modell zu testen.

onnx_model = YOLO("yolo11n.onnx")
results = onnx_model("https://ultralytics.com/images/bus.jpg", save=True)

Wenn du diesen Code ausführst, wird das folgende Ausgabebild im Ordner runs/detect/predict gespeichert.

Abb. 3. Inferenz mit dem exportierten Ultralytics-YOLO11-Modell auf einem Bild.

Wann solltest du die ONNX-Integration wählen?#

Das Ultralytics-Python-Paket unterstützt den Export von Modellen in verschiedene Formate, darunter TorchScript, CoreML, TensorRT und ONNX. Warum also ONNX wählen?

ONNX zeichnet sich dadurch aus, dass es ein frameworkunabhängiges Format ist. Während viele andere Exportformate an bestimmte Tools oder Umgebungen gebunden sind, verwendet ONNX ein standardisiertes Format und einen gemeinsamen Satz von Operatoren. Dadurch ist es leicht übertragbar, hardwarefreundlich und ideal für die plattformübergreifende Bereitstellung – ob du mit Cloud-Servern, mobilen Apps oder Edge-Geräten arbeitest.

Hier sind einige Gründe, warum die ONNX-Integration die ideale Wahl für deine Ultralytics-YOLO11-Projekte sein könnte:

• Flexible Bereitstellung: Nach dem Export ins ONNX-Format kannst du dein Ultralytics-YOLO11-Modell auf verschiedenen Plattformen bereitstellen, ohne den Code zu ändern oder das Modell neu zu trainieren.
• Branchenweite Unterstützung: Große KI-Unternehmen und Frameworks unterstützen ONNX, wodurch es ein zuverlässiges und weit verbreitetes Format ist. ONNX sorgt für langfristige Kompatibilität – ähnlich wie PDF-Dateien auf verschiedenen Geräten funktionieren.
• Zukunftssichere Entwicklung: Mit ONNX schützt du deine Investitionen in Modelle. Wenn sich Tools weiterentwickeln, bleiben deine Modelle dank ONNX relevant und nutzbar – auch in neuen oder anderen Umgebungen.
• Keine Bindung an einen Anbieter: Manche Tools binden dich an die Nutzung ihres Systems und schränken dadurch die Möglichkeiten deines Modells ein. ONNX vermeidet das: Du kannst die für deine Anforderungen passende Plattform wählen, ohne an eine einzelne Einrichtung gebunden zu sein.

Anwendungen von Ultralytics YOLO11 und dem ONNX-Modellformat#

Sehen wir uns als Nächstes einige praktische Anwendungsfälle an, in denen sich Ultralytics YOLO11 mithilfe der ONNX-Integration bereitstellen lässt.

Lagerbestände mit Ultralytics YOLO11 überwachen#

In stark frequentierten Lagern ist es schwierig, jederzeit jedes Produkt und jedes Paket im Blick zu behalten. Computer-Vision-Systeme können Beschäftigten helfen, Produkte in Regalen zu finden und Erkenntnisse zu gewinnen, etwa zur Anzahl und Art der Produkte. Solche Systeme können Unternehmen dabei helfen, ihren umfangreichen Lagerbestand automatisch zu verwalten und Lagerbeschäftigten viel Zeit zu sparen.

Konkret können in intelligenten Lagern Ultralytics YOLO11-Modelle, die nach ONNX exportiert wurden, mithilfe von Kameras und Edge-Geräten Artikel in Echtzeit erkennen und zählen. Das exportierte Modell kann Regale oder Paletten scannen, um Lagerbestände, fehlende Artikel oder leere Plätze zu erkennen. Da ONNX-Modelle effizient auf einer breiten Palette von Hardware laufen, kann das Modell direkt auf kleinen Edge-Geräten wie intelligenten Kameras ausgeführt werden. So sind keine teuren Server oder ständiger Zugriff auf die Cloud nötig.

Abb. 4. Beispiel für das Erkennen und Zählen von Paketen mit YOLO11.

Krankenhausabfälle mit Ultralytics YOLO11 verwalten#

Krankenhäuser auf der ganzen Welt erzeugen täglich große Mengen Abfall – von gebrauchten Handschuhen und Spritzen bis hin zu bei Operationen verwendeten Geräten wie Einweg- oder kontaminierten Scheren und Skalpellen. Studien zufolge produzieren Krankenhäuser jährlich mehr als 5 Millionen Tonnen Abfall, also 29 Pfund Abfall pro Bett und Tag.

Die richtige Sortierung solcher Abfälle ist wichtig für Hygiene und Sicherheit sowie für die Einhaltung von Vorschriften. Mit Ultralytics YOLO11-Modellen, die im ONNX-Format exportiert wurden, können Krankenhäuser Computer Vision im Gesundheitswesen nutzen, um die Abfallentsorgung in Echtzeit zu automatisieren und zu überwachen.

So können beispielsweise Kameras in der Nähe von Abfallbehältern in Bereichen wie Operationssälen oder Fluren weggeworfene Gegenstände überwachen. Ein speziell trainiertes Ultralytics-YOLO11-Modell, das verschiedene Arten medizinischer Abfälle erkennt, kann die Aufnahmen analysieren und feststellen, was entsorgt wird. Landet ein Gegenstand im falschen Behälter, etwa eine gebrauchte Spritze im Restmüll, kann das System das Personal sofort mit einem Licht- oder Tonsignal benachrichtigen. So lassen sich Verunreinigungen vermeiden und Vorschriften einhalten.

Abb. 5. Medizinische Instrumente mit Ultralytics YOLO11 erkennen.

Ernteüberwachung mit Ultralytics YOLO11#

Der richtige Erntezeitpunkt kann sowohl die Qualität der Erzeugnisse als auch die Gesamtproduktivität eines Betriebs erheblich beeinflussen. Traditionell verlassen sich Landwirte auf ihre Erfahrung und manuelle Kontrollen – doch dank jüngster technischer Fortschritte beginnt sich das zu ändern.

Mit Innovationen im Bereich Computer Vision wie YOLO11, exportiert ins ONNX-Format, können Landwirte nun Automatisierung und Präzision auf ihre Felder bringen. Mit Drohnen oder Kameras an Traktoren oder Masten nehmen sie Bilder ihrer Pflanzen auf, zum Beispiel von Tomaten, Äpfeln oder Weizen. YOLO11 kann dann wichtige Merkmale wie Farbe und Größe sowie die Verteilung der Pflanzen erkennen. Anhand dieser Informationen können Landwirte feststellen, ob die Pflanzen erntereif sind, noch wachsen oder ihren optimalen Erntezeitpunkt bereits überschritten haben.

Abb. 6. YOLO11 kann Pflanzen in Luftaufnahmen einer Drohne erkennen.

Zu beachtende Einschränkungen von ONNX#

ONNX bietet zwar zahlreiche Vorteile wie Übertragbarkeit, plattformübergreifende Kompatibilität und Interoperabilität zwischen Frameworks, doch solltest du einige Einschränkungen berücksichtigen:

• Modellgröße: Die Konvertierung ins ONNX-Format kann mitunter zu größeren Dateien führen als beim ursprünglichen Format. Verfahren wie Quantisierung und Beschneidung können dieses Problem mindern, indem sie die Modellgröße reduzieren, ohne die Leistung wesentlich zu beeinträchtigen.
• Kompatibilität der Laufzeitumgebung: ONNX Runtime ist zwar auf plattformübergreifende Kompatibilität ausgelegt, doch Leistung und Unterstützung können sich je nach Hardware und Betriebssystem unterscheiden.
• Herausforderungen beim Debugging: Das Debugging von ONNX-Modellen kann komplexer sein als bei nativen Frameworks wie PyTorch oder TensorFlow. Fehlermeldungen sind möglicherweise weniger aussagekräftig, wodurch sich Probleme schwerer eingrenzen lassen. Tools wie Netron zur Visualisierung von Modellen und die Protokollierungsfunktionen von ONNX Runtime können jedoch bei der Fehlersuche helfen.

Die wichtigsten Erkenntnisse#

Durch den Export von Ultralytics YOLO11 ins ONNX-Format kannst du ein trainiertes Computer-Vision-Modell ganz einfach fast überall bereitstellen – ob auf einem Laptop, einem Mobilgerät oder sogar einer kompakten intelligenten Kamera. Mit der ONNX-Integration bist du nicht an ein einzelnes Framework oder eine Plattform gebunden und kannst dein Modell flexibel in der Umgebung ausführen, die am besten zu deiner Anwendung passt.

Dadurch wird der Übergang vom Training zur praktischen Bereitstellung schneller und effizienter. Ob du Lagerbestände überwachst oder dafür sorgst, dass Krankenhausabfälle korrekt entsorgt werden – mit dieser Lösung laufen Systeme reibungsloser, Fehler werden reduziert und wertvolle Zeit wird gespart.

Möchtest du mehr über Computer Vision und KI erfahren? Sieh dir unser GitHub-Repository an, tausche dich mit unserer Community aus und informiere dich über unsere Lizenzoptionen, um dein Computer-Vision-Projekt zu starten. Wenn du dich für Innovationen wie KI in der Fertigung und Computer Vision in der Automobilindustrie interessierst, findest du auf unseren Lösungsseiten weitere Informationen.