Ultralytics YOLO11 nahtlos mit der MNN-Integration bereitstellen

KI-Innovationen beschränken sich heute nicht mehr auf Umgebungen mit entfernten Servern. KI-Lösungen werden zunehmend in Edge-Geräte wie Sensoren und Smartphones integriert. Dank dieses technologischen Wandels lassen sich Daten direkt dort verarbeiten, wo sie entstehen. Das ermöglicht schnellere Reaktionen, besseren Datenschutz und eine geringere Abhängigkeit von einer ständigen Cloud-Verbindung.

Daher gewinnt Edge-KI in vielen Branchen an Bedeutung. Es wird erwartet, dass der Markt für Edge-KI-Software bis 2031 ein Volumen von 8,88 Milliarden US-Dollar erreicht, da immer mehr Systeme auf schnellere und lokalere Verarbeitung setzen.

Insbesondere Computer Vision, ein Bereich der KI, der sich mit dem Verständnis von Bildern und Videos befasst, wird zunehmend direkt auf Edge-Geräten eingesetzt. Von der Zählung verpackter Lebensmittel bis hin zur Unterstützung von Fahrzeugen beim Erkennen von Fußgängern ermöglicht Computer Vision unzählige praktische Anwendungen in unterschiedlichen Branchen.

Möglich wird dies durch Computer-Vision-Modelle. Ultralytics YOLO11 unterstützt beispielsweise verschiedene KI-Aufgaben im Bereich Computer Vision, darunter Objekterkennung, Instanzsegmentierung, Pose-Schätzung und Objektverfolgung. Das Modell ist auf Geschwindigkeit und Effizienz ausgelegt und funktioniert auch auf Geräten mit begrenzten Hardware-Ressourcen gut.

Abb. 1. Lebensmittel beim Verpacken mit Ultralytics YOLO11 erkennen und verfolgen.

Neben der Eignung für den Einsatz auf Edge-Geräten kann YOLO11 dank der verschiedenen von Ultralytics unterstützten Integrationen in unterschiedliche Formate exportiert werden, die sich für verschiedene Hardwareumgebungen eignen.

Eine besonders effiziente Option ist MNN (Mobile Neural Network), eine leichtgewichtige Inferenz-Engine für Geräte mit begrenzten Ressourcen. Durch den Export von Ultralytics YOLO11 in das MNN-Format kann das Modell direkt auf Mobiltelefonen, eingebetteten Systemen und anderen Edge-Plattformen ausgeführt werden, auf denen eine schnelle Verarbeitung auf dem Gerät entscheidend ist.

In diesem Artikel untersuchen wir, wie die MNN-Integration funktioniert, stellen gängige Anwendungsfälle vor und zeigen dir, wie du mit Inferenzläufen eines exportierten Ultralytics-YOLO11-Modells beginnen kannst.

Ein Überblick über MNN: ein Deep-Learning-Framework#

Der Einsatz von Computer-Vision-Modellen auf kleineren Geräten wie Mobiltelefonen, Industriesensoren und tragbaren Systemen ist nicht immer einfach. Diese Geräte verfügen oft über wenig Arbeitsspeicher, langsamere Prozessoren und strenge Grenzen beim Energieverbrauch.

Das Mobile Neural Network, kurz MNN, ist eine leichtgewichtige und leistungsstarke Inferenz-Engine, die Alibaba entwickelt hat, damit KI-Modelle auch auf Hardware mit begrenzten Ressourcen effizient und in Echtzeit laufen. MNN unterstützt zahlreiche Plattformen, darunter Android, iOS und Linux, und funktioniert mit verschiedenen Hardwaretypen wie Zentralprozessoren (CPUs) und Grafikprozessoren (GPUs).

Abb. 2. Ein Blick auf das MNN-Framework (Quelle).

Die von Ultralytics unterstützte MNN-Integration ermöglicht den einfachen Export von YOLO11-Modellen in das MNN-Format. Das bedeutet, dass die Modelle aus ihrem nativen PyTorch-Format in MNN umgewandelt werden können.

Nach der Umwandlung können die Modelle auf Geräten eingesetzt werden, die das MNN-Framework unterstützen, und dort effizient Inferenz ausführen. Ein wesentlicher Vorteil des MNN-Formats ist, dass es den Einsatz von Ultralytics YOLO11 in Szenarien vereinfacht, in denen Größe, Geschwindigkeit und Ressourceneffizienz entscheidend sind.

Wichtige Merkmale des MNN-Inferenz-Backends#

Bevor wir uns ansehen, wie du die MNN-Integration verwendest, werfen wir einen Blick darauf, warum sich das MNN-Framework besonders gut eignet, um KI-Modelle auf Geräten im praktischen Einsatz auszuführen. Es wurde für die besonderen Einschränkungen von Edge-Umgebungen entwickelt und bietet zugleich schnelle und zuverlässige Leistung.

Interessanterweise wird MNN intern bei Alibaba in mehr als 30 Anwendungen eingesetzt, darunter Taobao, Tmall, Youku, DingTalk und Xianyu. Die Einsatzbereiche reichen von Live-Videos und Kurzformaten bis hin zur Bildersuche und Sicherheitsprüfungen direkt auf dem Gerät. MNN unterstützt den Einsatz in großem Maßstab und führt in Produktivumgebungen täglich Millionen von Inferenzen aus.

Hier sind einige der wichtigsten Merkmale des MNN-Frameworks:

• Automatische Auswahl des Backends: MNN kann abhängig von der Hardware automatisch das am besten geeignete Ausführungs-Backend auswählen, beispielsweise CPU oder GPU.
• Mehrfachausführung: Die Unterstützung für mehrere Threads ermöglicht die volle Nutzung von Mehrkernprozessoren und damit schnellere Inferenz.
• Unterstützung der Modellquantisierung: Mit der FP16- oder INT8-Quantisierung kannst du die Modellgröße deutlich verringern. Das kann die Inferenz beschleunigen und den Speicherbedarf reduzieren.
• Kompakt und schnell: MNN benötigt nur wenig Speicherplatz. Die Kernbibliothek ist etwa 400 KB groß auf Android und etwa 5 MB auf iOS. Damit eignet sie sich gut für Mobilgeräte und eingebettete Geräte.

So funktioniert die MNN-Integration#

Sehen wir uns nun Schritt für Schritt an, wie du Ultralytics YOLO11-Modelle in das MNN-Format exportierst.

Der erste Schritt besteht darin, das Ultralytics-Python-Paket zu installieren, das alles für den Export von YOLO11-Modellen in das MNN-Format enthält. Führe dazu pip install ultralytics in deinem Terminal oder deiner Eingabeaufforderung aus. Wenn du Jupyter Notebook oder Google Colab verwendest, setze ein Ausrufezeichen vor den Befehl.

Falls bei der Installation Probleme auftreten, findest du im Leitfaden zu häufigen Problemen Tipps zur Fehlerbehebung.

Sobald deine Umgebung eingerichtet ist, kannst du ein vortrainiertes YOLO11-Modell wie „yolo11n.pt“ laden und es wie im folgenden Codebeispiel in das MNN-Format exportieren. Wenn du ein eigenes YOLO11-Modell trainiert hast, kannst du es exportieren, indem du einfach den Dateinamen durch den Pfad zu deinem Modell ersetzt.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

Nachdem du dein Modell in MNN umgewandelt hast, kannst du es je nach Anwendungsbedarf auf verschiedenen Mobil- und eingebetteten Plattformen einsetzen.

Angenommen, du möchtest das exportierte Modell anhand eines Verkehrsvideos testen. In diesem Fall kannst du das Ultralytics YOLO11-Modell im MNN-Format laden, um direkt auf dem Gerät Objekte wie Fahrzeuge, Fußgänger und Verkehrsschilder zu erkennen, wie im folgenden Beispiel gezeigt.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

Nach Abschluss der Inferenz wird das Ausgabevideo mit den erkannten Objekten automatisch im Ordner 'runs/detect/predict' gespeichert. Wenn du Inferenz auch direkt mit dem MNN-Python-Paket ausführen möchtest, findest du weitere Informationen und Beispiele in der offiziellen Ultralytics-MNN-Dokumentation.

Abb. 3. Verkehrsanalyse mit einem in das MNN-Format exportierten Ultralytics-YOLO11-Modell. Bild vom Autor.

Anwendungsfälle für den Einsatz von Edge-KI-Modellen mit Ultralytics YOLO11 und MNN#

Mit Ultralytics YOLO11 und MNN lassen sich schnelle und effiziente Computer-Vision-Aufgaben wie die Objekterkennung auch in Umgebungen ausführen, in denen eine cloudbasierte Verarbeitung unpraktisch oder unmöglich ist. Sehen wir uns an, wie diese Integration sich in der Praxis besonders bewähren kann.

Mobile Edge-KI zur Erkennung von Pflanzenkrankheiten#

Apps zur Erkennung von Pflanzenkrankheiten, die Bildklassifizierung verwenden, werden bei Hobbygärtnern, Forschern und Naturbegeisterten immer beliebter. Mit einem einzigen Foto können Nutzer frühe Krankheitssymptome wie Blattflecken oder Verfärbungen schnell erkennen. Da diese Apps oft im Freien verwendet werden, wo der Internetzugang eingeschränkt sein oder ganz fehlen kann, ist eine cloudbasierte Verarbeitung nicht immer zuverlässig.

Nach dem Training mit einem Datensatz wie PlantDoc kann ein Ultralytics-YOLO11-Modell in das MNN-Format exportiert und direkt auf Mobilgeräten ausgeführt werden. Das Modell kann dann Pflanzenarten klassifizieren und sichtbare Krankheitssymptome lokal erkennen, ohne Daten an einen Server zu senden.

Abb. 4. Beispiel für die Erkennung von Rost (einer Pflanzenkrankheit) auf einem Blatt mit YOLO11 (Quelle).

Effiziente Inferenz direkt auf dem Gerät in der Fertigung#

Eine genaue Paketverfolgung ist in den geschäftigen Produktionslinien von Fertigungsbetrieben unverzichtbar. Mit Ultralytics YOLO11 lässt sich jedes Produkt verfolgen und zählen, während es wichtige Kontrollpunkte durchläuft. Dabei werden die Zählungen in Echtzeit aktualisiert und Abweichungen gemeldet. So gehen weniger Sendungen verloren oder bleiben unverbucht, und die Abläufe werden reibungsloser und zuverlässiger.

Abb. 5. Verfolgung und Zählung von Paketen mit YOLO11 (Quelle).

Die MNN-Integration kann in diesem Anwendungsfall besonders viel bewirken. Sobald das Ultralytics YOLO11-Modell in das MNN-Format exportiert wurde, kann es direkt auf kompakten Geräten mit geringem Energieverbrauch ausgeführt werden, die entlang des Förderbands installiert sind.

Da die gesamte Verarbeitung lokal stattfindet, kann das System sofortiges Feedback liefern und benötigt keine Internetverbindung. Das sorgt für eine schnelle und zuverlässige Leistung in der Produktionshalle, hält die Fertigung effizient am Laufen und ermöglicht zugleich hohe Genauigkeit und Kontrolle.

Vorteile des Exports von Ultralytics YOLO11 in das MNN-Modellformat#

Hier sind einige wichtige Vorteile der von Ultralytics bereitgestellten MNN-Integration:

• Schnellere Reaktionszeiten: Da die Inferenz auf dem Gerät ausgeführt wird, erfolgen Vorhersagen in Echtzeit und mit minimaler Latenz.
• Besserer Datenschutz: Die Daten bleiben auf dem Gerät. Dadurch müssen weniger sensible Bilder oder Videos in die Cloud übertragen werden.
• Open Source und aktiv gepflegt: MNN wird von Alibaba unterstützt und von einer aktiven Community weiterentwickelt. Das macht MNN zuverlässig; außerdem wird das Framework regelmäßig mit Leistungsverbesserungen aktualisiert.

Was du bei der Verwendung des MNN-Frameworks beachten solltest#

Bevor du MNN als Bereitstellungsframework auswählst, solltest du prüfen, wie gut es zu den Anforderungen deines Projekts, den Zielplattformen und den technischen Einschränkungen passt. Hier sind einige wichtige Faktoren:

• Laufende Kompatibilität: Aktualisierungen des Frameworks oder Änderungen an deinen Zielplattformen können erneute Tests oder Anpassungen erfordern, damit alles reibungslos funktioniert.
• Weniger Werkzeuge zur Fehlersuche: Im Vergleich zu größeren Frameworks bietet MNN weniger Möglichkeiten, Fehler zu beheben und das Modellverhalten zu untersuchen. Das kann die Fehlersuche erschweren.
• Die Leistung hängt von der Hardware ab: Geschwindigkeit und Effizienz deines Modells variieren je nach Gerät. Teste die Zielhardware, um sicherzustellen, dass sie deine Leistungsziele erfüllt.

Die wichtigsten Erkenntnisse#

Dank der Unterstützung der MNN-Integration durch Ultralytics lassen sich YOLO11-Modelle problemlos für Mobilgeräte und eingebettete Geräte exportieren. MNN ist eine praktische Option für Anwendungen, die eine schnelle und zuverlässige Erkennung erfordern, ohne von Cloudzugriff oder einer ständigen Verbindung abhängig zu sein.

Diese Konfiguration vereinfacht die Bereitstellung, erhält die Leistung aufrecht und hält den Ressourcenbedarf gering. Ob du Smart-Home-Systeme, Werkzeuge für den Außeneinsatz oder kompakte Industriegeräte entwickelst: Mit dem Export von Ultralytics YOLO11 in das MNN-Format kannst du Computer-Vision-Aufgaben flexibel und effizient direkt auf Edge-Geräten ausführen.

Werde Teil unserer wachsenden Community! Entdecke unser GitHub-Repository, um tiefer in das Thema KI einzusteigen. Du möchtest mit deinen Computer-Vision-Projekten loslegen? Informiere dich über unsere Lizenzoptionen. Erfahre auf unseren Lösungsseiten mehr über KI im Gesundheitswesen und Computer Vision im Einzelhandel!