Ultralytics YOLO11-Modelle in das NCNN-Modellformat exportieren

KI-Lösungen werden immer häufiger eingesetzt, auch in Bereichen mit hohen Anforderungen wie dem Katastrophenmanagement, der Abfallwirtschaft und der Brandbekämpfung. Mit der zunehmenden Verbreitung werden KI-Modelle in immer vielfältigeren Umgebungen eingesetzt – nicht nur auf Servern oder in der Cloud, sondern direkt auf Geräten im Einsatzgebiet.

Zum Beispiel können Drohnen und Ausrüstung mit Edge-Komponenten, die von kleinen Prozessoren betrieben werden, in Katastrophengebieten eine entscheidende Rolle spielen. Mit Wärmebildkameras ausgestattete Geräte können vor Ort Daten erfassen und analysieren, um Menschen unter Trümmern aufzuspüren. Möglich wird dies durch Computer Vision, einen Zweig der künstlichen Intelligenz, der visuelle Informationen aus Bildern und Videos interpretiert.

KI-Modelle für die Bildverarbeitung auf Edge-Geräten bereitzustellen, ist jedoch nicht so einfach, wie es vielleicht scheint. KI-Modelle müssen für den effizienten Betrieb auf Hardware mit begrenzter Rechenleistung und begrenztem Speicher optimiert werden. Deshalb sind KI-Frameworks wie NCNN unverzichtbar. Sie helfen dabei, Modelle umzuwandeln und für Echtzeitleistung auf Geräten mit geringem Stromverbrauch zu optimieren, ohne die Genauigkeit wesentlich zu beeinträchtigen.

Ultralytics-YOLO-Modelle wie Ultralytics YOLO11 lassen sich besonders einfach mit der von Ultralytics unterstützten NCNN-Integration ins NCNN-Modellformat exportieren. Durch die Umwandlung von YOLO11 ins NCNN-Modellformat läuft das Modell schneller, benötigt weniger Speicher und funktioniert reibungslos auf verschiedenen Geräten – bei minimalem Genauigkeitsverlust.

In diesem Artikel stellen wir die von Ultralytics unterstützte NCNN-Integration vor und zeigen dir, wie du dein YOLO11-Modell ins NCNN-Modellformat exportierst.

Überblick über NCNN: ein leichtgewichtiges neuronales Netzwerk-Framework#

NCNN ist ein quelloffenes Inferenz-Framework für neuronale Netze, das von Tencent entwickelt wurde. Es wurde speziell für mobile Umgebungen und Edge-Umgebungen konzipiert und ermöglicht leistungsstarke Inferenz bei minimalem Ressourcenbedarf. Damit eignet es sich ideal für Geräte mit begrenzten Ressourcen wie Smartphones, Drohnen und IoT-Geräte (Geräte des Internets der Dinge).

Das NCNN-Framework ist in der KI- und Deep-Learning-Community aufgrund seiner Effizienz, Portabilität und Optimierung für mobile CPUs (Prozessoren) beliebt geworden. Es ermöglicht Entwicklern, neuronale Netzmodelle auf erschwinglichen Geräten mit begrenztem Speicher und begrenzter Rechenleistung auszuführen. NCNN wurde einfach und flexibel gestaltet, unterstützt eine breite Palette von Computer-Vision-Modellen und läuft auf verschiedenen Plattformen, darunter Android, Linux, iOS und macOS.

Abb. 1. Modelle im NCNN-Format lassen sich auf vielen Plattformen einsetzen.

Wichtige Funktionen zur Leistungsoptimierung von NCNN#

Hier sind einige der wichtigsten Funktionen, die NCNN zu einem leistungsstarken und weit verbreiteten Inferenz-Framework für neuronale Netze machen:

• Leichtgewichtig und hardwareunabhängig: Das NCNN-Framework ist für die Ausführung von Modellen auf handelsüblichen CPUs optimiert und benötigt keine spezielle Hardware wie GPUs (Grafikprozessoren) oder NPUs (neuronale Prozessoren).
• Modellquantisierung: Für Anwendungen, bei denen Speicherbedarf und Geschwindigkeit entscheidend sind, unterstützt NCNN Quantisierungsverfahren, die die Modellgröße verringern und die Inferenzzeit verkürzen. Dadurch lassen sich KI-Modelle reibungslos auf mobilen und eingebetteten Geräten ausführen.
• Quelloffen und zugänglich: Als quelloffenes Framework kann NCNN von allen kostenlos genutzt, verändert und verbessert werden. Das fördert Innovationen und die breite Nutzung in verschiedensten Anwendungsbereichen.
• Aktive Entwicklung und Community: Tencent und eine wachsende Entwickler-Community warten NCNN aktiv auf GitHub. Es gibt regelmäßige Aktualisierungen und Verbesserungen der Modellkompatibilität.

Ultralytics YOLO11 in das NCNN-Modellformat exportieren: eine Kurzanleitung#

Nachdem wir besprochen haben, was NCNN ist, sehen wir uns nun genauer an, wie du Ultralytics-YOLO11-Modelle in das NCNN-Format exportierst.

Schritt 1: Das Ultralytics-Python-Paket installieren#

Installiere vor dem Exportieren des Modells zuerst das Ultralytics-Python-Paket mit dem Paketinstallationsprogramm pip. Führe dazu pip install ultralytics in deinem Terminal oder in der Eingabeaufforderung aus. Wenn du in einem Jupyter Notebook oder Google Colab arbeitest, setze wie folgt ein Ausrufezeichen vor den Befehl: !pip install ultralytics.

Das Ultralytics-Paket bietet Tools zum Trainieren, Testen, Feinabstimmen und Exportieren von KI-Modellen für verschiedene Computer-Vision-Aufgaben. Falls bei der Installation oder beim Exportieren eines Modells Probleme auftreten, findest du in der offiziellen Ultralytics-Dokumentation und im Leitfaden zu häufigen Problemen hilfreiche Tipps zur Fehlerbehebung.

Schritt 2: Ultralytics YOLO11 exportieren#

Nach der Installation des Ultralytics-Pakets kannst du dein YOLO11-Modell laden und ins NCNN-Format exportieren. Das folgende Beispiel verwendet ein vortrainiertes Modell YOLO11n (yolo11n.pt), exportiert es ins NCNN-Format und speichert die Ausgabe in einem Ordner namens yolo11n_ncnn_model.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

Das exportierte Ultralytics YOLO11-Modell lässt sich anschließend auf verschiedenen leichten Geräten wie Smartphones, eingebetteten Systemen oder IoT-Plattformen einsetzen. Auch der Bereitstellungsprozess ist sehr unkompliziert.

Das folgende Codebeispiel zeigt, wie du das exportierte Modell lädst und eine Inferenz ausführst. Inferenz bezeichnet den Vorgang, bei dem ein trainiertes Modell Vorhersagen für neue, bisher ungesehene Daten erstellt. In diesem Beispiel wird das Modell mit einem Bild eines Mannes auf einem Fahrrad getestet, das von einer öffentlich zugänglichen URL abgerufen wird.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Nach der Ausführung des Codes findest du das Ausgabebild im Ordner runs/detect/predict.

Abb. 2. Objekterkennung mit einem exportierten Ultralytics YOLO11-Modell im NCNN-Format. Bild vom Autor.

Warum Echtzeiterkennung mit NCNN?#

Wenn du die verschiedenen von Ultralytics unterstützten Integrationen erkundest, wirst du vielleicht feststellen, dass mehrere Exportoptionen zur Verfügung stehen. Wann solltest du also das NCNN-Format wählen?

Das NCNN-Exportformat ist eine zuverlässige Wahl, wenn du Ultralytics YOLO11-Modelle auf Geräten mit begrenzten Ressourcen einsetzen möchtest. Es eignet sich besonders für Echtzeitanwendungen, die direkt auf dem Gerät laufen, etwa auf Edge-Geräten, ohne eine Verbindung zur Cloud zu benötigen. So kann das Modell Aufgaben wie die Objekterkennung direkt vor Ort ausführen.

Hier sind einige typische Szenarien, für die sich NCNN besonders gut eignet:

• Einsatz auf Mobilgeräten: Das NCNN-Format ist für Android und iOS optimiert. Dadurch lassen sich Modelle einfach in mobile Apps integrieren und mit geringer Latenz direkt auf dem Gerät ausführen.
• Eingebettete Systeme und IoT-Geräte: Wenn du das Modell auf Geräten wie einem Raspberry Pi oder NVIDIA Jetson bereitstellst, kann der Export ins NCNN-Format die Leistung und Reaktionsfähigkeit verbessern.
• Einsatz auf Desktop-Computern und Servern: NCNN eignet sich zwar hervorragend für Geräte mit geringem Energieverbrauch, unterstützt aber auch Linux, Windows und macOS für Desktop- und Serverumgebungen. Das bietet Entwicklern flexible Bereitstellungsoptionen.

Abb. 3. Optionen für die Bereitstellung von Ultralytics YOLO11-Modellen mit NCNN. Bild vom Autor.

Anwendungsfälle für die Bereitstellung von Ultralytics YOLO11-Modellen mit NCNN#

Sehen wir uns als Nächstes einige praktische Anwendungsfälle an, in denen der Export von Ultralytics-YOLO11-Modellen ins NCNN-Format einen echten Unterschied machen kann.

KI-gestützte Sichtsysteme in Feuerwehrhelmen#

Schutzhelme mit Kameras und eingebetteten Mikrocomputern können in Bereichen wie dem Bauwesen und bei der Feuerwehr eingesetzt werden, um die Sicherheit und das Situationsbewusstsein zu verbessern. Echtzeitmodelle für visuelle KI wie Ultralytics YOLO11 können auf diesen Geräten verschiedene Arten von Objekten und Ausrüstung erkennen. So können solche Helme Feuerwehrleuten beispielsweise dabei helfen, Menschen, Hindernisse oder Gefahren bei schlechter Sicht zu erkennen.

Der Einsatz umfangreicher Modelle direkt auf tragbaren Geräten kann jedoch zu einer langsamen Leistung führen und den Akku schnell entladen. In diesem Fall ist die NCNN-Integration eine gute Wahl. Sie ermöglicht Inferenz mit geringer Latenz und niedrigem Energieverbrauch.

Abfallsortierung und intelligente Abfallbehälter#

Auch intelligente Abfallbehälter lassen sich mit Kameras und kompakten Edge-KI-Prozessoren ausstatten, um entsorgte Materialien zu erkennen und zu sortieren. Bildverarbeitungsmodelle wie YOLO11 lassen sich mit eigenen Daten trainieren, um verschiedene Abfallarten wie Papier, Kunststoff, Gummi usw. zu erkennen.

Nach der Erkennung des Abfalls kann er je nach Wiederverwendbarkeit automatisch in getrennte Fächer sortiert werden. Mit Edge-KI und exportierten Ultralytics YOLO11-Modellen im NCNN-Format können diese Behälter Daten lokal verarbeiten – ohne Internetverbindung. So können sie autonom arbeiten und Sortierentscheidungen in Echtzeit mit minimaler Verzögerung treffen.

Abb. 4. Erkennung von Kunststoffabfällen mit YOLO11.

Überwachung von Rindern mit Drohnen und Computer Vision#

In abgelegenen landwirtschaftlichen Gebieten fehlt mitunter eine stabile Internetverbindung oder sogar eine zuverlässige Stromversorgung. Das schränkt die Möglichkeiten ein, KI-Anwendungen online auszuführen. In solchen Fällen können Edge-Geräte und Drohnen vielfältige Aufgaben übernehmen.

Ein gutes Beispiel ist die Überwachung von Nutztieren wie Rindern, Schafen und Geflügel. Dafür eignen sich Modelle für visuelle KI wie YOLO11, mit denen sich die Bewegungen der Tiere verfolgen, Anzeichen von Verletzungen, Krankheiten oder ungewöhnlichem Verhalten erkennen und Landwirte benachrichtigen lassen, wenn Tiere vermisst werden. Dank der NCNN-Integration können diese Daten auch direkt auf Edge-Geräten verarbeitet werden. Damit eignet sie sich hervorragend für die Bild- und Videoanalyse auf abgelegenen oder netzunabhängigen Höfen.

Abb. 5. Ein Beispiel für die Überwachung von Nutztieren mit YOLO11.

Die wichtigsten Erkenntnisse#

Der Export von YOLO11-Modellen mit der von Ultralytics unterstützten NCNN-Integration ist ein unkomplizierter Weg, Bildverarbeitungs-KI in Umgebungen mit geringem Stromverbrauch einzusetzen. Ob Drohnen in Katastrophengebieten, intelligente Abfallsortierbehälter oder die Überwachung von Nutztieren auf abgelegenen Bauernhöfen: YOLO und NCNN ermöglichen eine schnelle, effiziente und portable KI-Inferenz in Echtzeit. So werden KI-Systeme zugänglicher und zuverlässiger – gerade dann, wenn es darauf ankommt.

Möchtest du mehr über KI erfahren? Sieh dir unser GitHub-Repository an, tausche dich mit unserer Community aus und informiere dich über unsere Lizenzoptionen, um dein Computer-Vision-Projekt auf den Weg zu bringen. Erfahre auf unseren Lösungsseiten, wie Innovationen wie KI im Einzelhandel und Computer Vision im Gesundheitswesen die Zukunft gestalten.