Ultralytics YOLO11 mithilfe der PaddlePaddle-Integration exportieren

Mit den Fortschritten im Bereich der künstlichen Intelligenz (AI) werden Maschinen immer besser darin, die Welt um sie herum zu verstehen. Ein zentraler Bereich, der diese Entwicklung vorantreibt, ist Computer Vision, ein Teilgebiet der künstlichen Intelligenz (AI), das Maschinen ermöglicht, visuelle Daten zu interpretieren und darauf basierend Entscheidungen zu treffen.

Von der Erkennung von Verkehrsschildern durch Autos bis zur Überprüfung von Regalen in Einzelhandelsgeschäften ist Computer Vision inzwischen Bestandteil vieler alltäglicher Anwendungen. Diese Aufgaben basieren auf Computer-Vision-Modellen, die Fotos oder Videos schnell durchsuchen und wichtige Inhalte erkennen können.

Im Laufe der Zeit sind diese Modelle schneller und genauer geworden, wodurch sie in Bereichen wie Landwirtschaft, Gesundheitswesen, Sicherheit und Einzelhandel eingesetzt werden können. Ein Beispiel ist Ultralytics YOLO11, ein Modell, das für eine Vielzahl von Computer-Vision-Aufgaben mit hoher Geschwindigkeit und Präzision entwickelt wurde. Es kann Objekte erkennen und klassifizieren, Bewegungen verfolgen und Körperhaltungen schätzen.

Ein entscheidender Schritt, um Computer Vision aus der Forschung in reale Anwendungen zu überführen, ist die Bereitstellung. Sobald ein Modell trainiert wurde, besteht der nächste Schritt darin, es auf Geräten wie Smartphones, Edge-Geräten oder Cloud-Servern auszuführen.

Abb. 1. Die Bereitstellung von Modellen ist ein wichtiger Bestandteil jedes Computer-Vision-Projekts.

Um dies zu unterstützen, können Ultralytics YOLO-Modelle wie YOLO11 je nach Zielplattform in verschiedene Formate exportiert werden. Eines dieser Formate ist PaddlePaddle, ein quelloffenes Framework für künstliche Intelligenz (AI), das eine effiziente Bereitstellung und Inferenz von Modellen auf einer Vielzahl von Geräten und Systemen ermöglicht.

In diesem Artikel sehen wir uns an, wie Ultralytics YOLO11 mithilfe der von Ultralytics unterstützten PaddlePaddle-Integration exportiert werden kann, um eine effiziente Bereitstellung auf verschiedenen Plattformen zu ermöglichen.

Was ist PaddlePaddle?#

Die Bereitstellung von AI-Modellen außerhalb von Forschungsszenarien, etwa auf Mobilgeräten oder Edge-Geräten, kann manchmal schwierig sein, insbesondere wenn sie effizient ausgeführt werden und nur wenige Ressourcen benötigen sollen. PaddlePaddle ist ein Deep-Learning-Framework, das genau dabei helfen soll.

Es handelt sich um eine chinesische Open-Source-Plattform. Ihr Name steht für Parallel Distributed Deep Learning. PaddlePaddle wurde von Baidu entwickelt, einem Unternehmen, das für seine Arbeit im Bereich AI und der Softwareinfrastruktur bekannt ist, und speziell für reale Anwendungen und nicht nur für die Forschung geschaffen.

Entwickler können Modelle im PaddlePaddle-Format auf Servern, Edge-Geräten und sogar mobiler Hardware ausführen. Außerdem unterstützt die Plattform Werkzeuge, die die Entwicklung von AI-Anwendungen vereinfachen, darunter Optionen mit wenig oder ganz ohne Programmieraufwand. Die Plattform verfügt über eine starke Entwicklergemeinschaft mit mehr als 4,7 Millionen Nutzern und wird in verschiedenen Branchen eingesetzt, darunter Gesundheitswesen, Landwirtschaft, Fertigung und Finanzwesen.

Wichtige Funktionen von PaddlePaddle#

Hier sind einige der wichtigsten Funktionen, mit denen PaddlePaddle Modelle auf Geräten in der Praxis effizienter ausführen kann:

• Umwandlung dynamischer in statische Berechnungsgraphen: Diese Funktion wandelt ein flexibles Modell in eine feste Version um, die reibungsloser und vorhersehbarer ausgeführt wird. Ein festes Modell lässt sich leichter optimieren und erstellt Vorhersagen schneller.
• Operator-Fusion: PaddlePaddle kann mehrere Schritte im Modell zu einem einzigen zusammenfassen. Dadurch benötigt das Modell weniger Speicher und läuft schneller. Stell dir das so vor, als würdest du mehrere Aufgaben zu einer einzigen Aktion zusammenfassen, um Zeit zu sparen.
• Quantisierung: Dabei wird das Modell durch die Verwendung einfacherer Zahlen kleiner, etwa durch das Runden auf weniger Dezimalstellen. So kann das Modell auf Geräten mit begrenzter Leistung ausgeführt werden, beispielsweise auf Smartphones oder intelligenten Kameras, ohne viel Genauigkeit einzubüßen.

Abb. 2. Vorteile der Verwendung von PaddlePaddle. Abbildung vom Autor.

Überblick über die Bereitstellung von Ultralytics YOLO11 mit PaddlePaddle#

Die von Ultralytics unterstützte PaddlePaddle-Integration erleichtert den Übergang vom Training zur Bereitstellung. Entwickler, die bereits Werkzeuge von PaddlePaddle verwenden, können YOLO11 leichter in ihre Arbeitsabläufe integrieren.

Das Ultralytics Python-Paket unterstützt den direkten Export von YOLO11-Modellen in das PaddlePaddle-Format. Dadurch können Entwickler trainierte Modelle ohne zusätzliche Werkzeuge oder manuelle Konvertierungsschritte bereitstellen.

Der Export kann entweder über die Befehlszeile oder mit Python-Code erfolgen, sodass du die Methode wählen kannst, die am besten zu deinem Arbeitsablauf passt. Das hält den Vorgang einfach und verringert die Wahrscheinlichkeit von Problemen bei der Einrichtung. Nach dem Export kann das Modell für Computer-Vision-Aufgaben wie Objekterkennung, Bildklassifizierung, Haltungsschätzung und Instanzsegmentierung verwendet werden.

Das ist eine gute Option für Bereitstellungsszenarien, in denen Geräte nur über begrenzten Speicher verfügen oder eine schnelle Verarbeitung erfordern. Die exportierten Modelle sind für eine effiziente Ausführung optimiert, auch auf Systemen mit begrenzten Ressourcen.

So exportierst du Ultralytics YOLO11-Modelle in das PaddlePaddle-Format#

Der Export von Ultralytics YOLO11 in das PaddlePaddle-Modellformat ist in wenigen Schritten erledigt.

Zuerst installierst du das Ultralytics Python-Paket mit einem Paketmanager wie „pip“. Führe dazu in der Eingabeaufforderung oder im Terminal den Befehl „pip install ultralytics“ aus.

Das Ultralytics-Paket bietet Werkzeuge zum Trainieren, Bewerten, Feinabstimmen, Exportieren und Bereitstellen von Modellen für eine Vielzahl von Computer-Vision-Aufgaben. Falls bei der Installation Probleme auftreten, findest du im Leitfaden zu häufigen Problemen Hinweise zur Fehlerbehebung.

Sobald deine Umgebung eingerichtet ist, kannst du ein vortrainiertes YOLO11-Modell wie „yolo11n.pt“ laden und exportieren, wie unten gezeigt. Du kannst auch dein eigenes, benutzerdefiniert trainiertes YOLO11-Modell exportieren.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="paddle")

Nachdem dein Modell in das PaddlePaddle-Format konvertiert wurde, kann es in verschiedenen Szenarien auf unterschiedlichen Hardwaretypen bereitgestellt werden.

Im folgenden Beispiel laden wir beispielsweise ein Ultralytics YOLO11-Modell, das in das PaddlePaddle-Format exportiert wurde, und verwenden es für eine Vorhersage. Dieser Vorgang wird als Inferenz bezeichnet und bedeutet einfach, dass das Modell neue Daten analysiert. Hier testen wir es mit einem Bild von zwei Hunden.

paddle_model = YOLO("./yolo11n_paddle_model")
paddle_model("https://images.pexels.com/photos/33287/dog-viszla-close.jpg", save=True)

Nach der Ausführung des Codes wird das Ausgabebild mit den Vorhersagen des Modells automatisch im Ordner „runs/detect/predict“ gespeichert.

Abb. 3. Verwendung des exportierten Ultralytics YOLO11-Modells zur Objekterkennung in einem Bild. Abbildung vom Autor.

Ultralytics YOLO11 mit dem PaddlePaddle-Framework bereitstellen#

PaddlePaddle bietet mehrere Werkzeuge für die Bereitstellung, die jeweils für unterschiedliche Geräte und Anwendungsfälle wie Cloud-Umgebungen, eingebettete Systeme und Webanwendungen geeignet sind. Hier sind einige der wichtigsten Optionen für die Bereitstellung:

• Paddle Serving: Damit kannst du Modelle als REST APIs bereitstellen. Das ist eine gute Wahl für Cloud- oder Serverumgebungen, die Funktionen wie Versionsverwaltung und Online-Tests benötigen.
• Paddle Inference API: Damit hast du mehr Kontrolle darüber, wie Modelle ausgeführt werden. Das ist hilfreich, wenn du die Leistung feinabstimmen oder eine eigene Anwendungslogik entwickeln musst.
• Paddle Lite: Es wurde für die schlanke Bereitstellung auf Mobilgeräten, Tablets und eingebetteten Systemen entwickelt. Es ist für kleinere Modelle und eine schnellere Inferenz auf Hardware mit begrenzten Ressourcen optimiert.
• Paddle.js: Damit kannst du AI-Modelle in Webbrowsern mithilfe von Technologien wie WebGL und WebAssembly ausführen. Das ist nützlich für interaktive Demos und browserbasierte Werkzeuge.

Abb. 4. Von PaddlePaddle unterstützte Optionen für die Bereitstellung. Abbildung vom Autor.

Sobald du das passende Werkzeug für deine Umgebung ausgewählt hast, kannst du das exportierte Modell laden. Die PaddlePaddle-Engine kümmert sich um die nächsten Schritte. Sie lädt das Modell, verarbeitet das Eingabebild und gibt die Ergebnisse zurück.

Wann solltest du die PaddlePaddle-Integration wählen?#

Das Ultralytics Python-Paket unterstützt auch verschiedene andere Exportformate. Daher fragst du dich vielleicht: Wann ist PaddlePaddle die richtige Wahl?

PaddlePaddle ist eine zuverlässige Option, wenn du Modelle auf Geräten mit begrenzten Ressourcen bereitstellen möchtest, etwa auf Smartphones, eingebetteten Systemen oder Edge-Geräten. Es eignet sich außerdem hervorragend für Echtzeitanwendungen, die eine schnelle und effiziente Leistung benötigen, beispielsweise für die Objekterkennung in mobilen Apps, die visuelle Überwachung mit intelligenten Kameras oder die direkt auf dem Gerät ausgeführte Haltungsschätzung ohne Cloud-Unterstützung.

Darüber hinaus kannst du die PaddlePaddle-Integration in Betracht ziehen, wenn das Projekt offline oder in Umgebungen mit schlechter Konnektivität ausgeführt werden muss. Anwendungen wie Werkzeuge zur Sichtprüfung in der Fertigung, Handgeräte für Felduntersuchungen oder AI-gestützte Scanner im Einzelhandel können von der schlanken Laufzeitumgebung und den flexiblen Bereitstellungsoptionen von PaddlePaddle profitieren.

Zu beachtende Einschränkungen von PaddlePaddle#

PaddlePaddle bietet zwar interessante Möglichkeiten für die Bereitstellung, dennoch solltest du die folgenden einschränkenden Faktoren berücksichtigen:

• Kleinere globale Community: Außerhalb Chinas ist die Basis aus Nutzern und Mitwirkenden vergleichsweise klein. Dadurch kann es schwieriger sein, Unterstützung aus der Community, gelöste GitHub-Probleme oder Antworten auf Stack Overflow zu finden.
• Steilere Lernkurve bei Werkzeugen außerhalb des Baidu-Ökosystems: PaddlePaddle lässt sich nahtlos in das Ökosystem von Baidu integrieren. Außerhalb dieses Kontexts können jedoch zusätzliche Konfigurations- und Einrichtungsschritte erforderlich sein.
• Weniger Integrationen mit gängigen ML-Werkzeugen: PaddlePaddle ist nur eingeschränkt mit verbreiteten Werkzeugen wie Hugging Face Transformers, MLflow oder AI-Diensten mit nativer Kubernetes-Unterstützung kompatibel.

Wichtige Erkenntnisse#

Die von Ultralytics unterstützte PaddlePaddle-Integration erleichtert den Export und die Bereitstellung von YOLO11-Modellen auf einer Vielzahl von Geräten. Sie ist besonders nützlich für Projekte, die eine effiziente Ausführung direkt auf dem Gerät erfordern, etwa mobile Apps, intelligente Kameras oder eingebettete Systeme.

Mit nur wenigen Schritten kannst du leistungsfähige Computer-Vision-Modelle in reale Anwendungen integrieren. Da sich Computer Vision kontinuierlich weiterentwickelt, machen Werkzeuge wie YOLO und PaddlePaddle es einfacher denn je, schnelle und intelligente Systeme für verschiedenste Einsatzbereiche zu entwickeln – von Geräten für Verbraucher bis hin zu industriellen Werkzeugen.

Werde noch heute Teil unserer wachsenden Community! Vertiefe dein Wissen über AI, indem du unser GitHub-Repository erkundest. Möchtest du eigene Computer-Vision-Projekte entwickeln? Informiere dich über unsere Lizenzoptionen. Erfahre, wie Computer Vision im Gesundheitswesen die Effizienz steigert, und entdecke die Auswirkungen von AI im Einzelhandel auf unseren Lösungsseiten!