Nahtloser Einsatz von Ultralytics YOLO11 mit der MNN-Integration

Abirami Vina

4 Minuten lesen

Juni 25, 2025

Erfahren Sie, wie Sie Ultralytics YOLO11-Modelle mit der MNN-Integration exportieren und einsetzen können, um schnelle Inferenzen auf mobilen, eingebetteten und stromsparenden Plattformen zu erhalten.

Heutzutage gehen die KI-Innovationen über Remote-Server-Umgebungen hinaus. KI-Lösungen werden in Edge-Geräte wie Sensoren und Smartphones integriert. Dank dieses technologischen Wandels können Daten nun direkt dort verarbeitet werden, wo sie generiert werden, was schnellere Reaktionen, einen besseren Datenschutz und eine geringere Abhängigkeit von einer ständigen Cloud-Konnektivität ermöglicht.

Infolgedessen gewinnt die Edge-KI in vielen Branchen an Zugkraft. Es wird erwartet, dass der Markt für Edge-KI-Software bis 2031 8,88 Milliarden US-Dollar erreichen wird, da immer mehr Systeme auf schnellere und lokalere Verarbeitung umsteigen.

Insbesondere die Computer Vision, ein Zweig der KI, der sich auf das Verstehen von Bildern und Videos konzentriert, wird schnell in den Randbereichen eingesetzt. Von der Zählung verpackter Lebensmittel bis hin zur Unterstützung von Fahrzeugen bei der Erkennung von Fußgängern - Computer Vision unterstützt unzählige praktische Anwendungen in verschiedenen Bereichen.

Ermöglicht wird dies durch Computer-Vision-Modelle. Ultralytics YOLO11 zum Beispiel ist ein Modell, das verschiedene KI-Aufgaben wie Objekterkennung, Instanzsegmentierung, Objektverfolgung und Posenschätzung unterstützt. Es ist so konzipiert, dass es schnell und effizient ist und auch auf Geräten mit begrenzten Hardware-Ressourcen gut funktioniert.

Abb. 1. Erkennung und Verfolgung von verpackten Lebensmitteln mit YOLO11(Quelle).

YOLO11 ist nicht nur für den Edge-Einsatz geeignet, sondern kann durch verschiedene von Ultralytics unterstützte Integrationen auch in verschiedene Formate exportiert werden, die für unterschiedliche Hardware-Umgebungen geeignet sind. 

Eine der effizientesten Optionen ist MNN (Mobile Neural Network), eine leichtgewichtige Inferenzmaschine, die für Geräte mit geringen Ressourcen entwickelt wurde. Durch den Export von YOLO11 nach MNN kann es direkt auf Mobiltelefonen, eingebetteten Systemen und anderen Edge-Plattformen ausgeführt werden, bei denen eine schnelle Verarbeitung auf dem Gerät unerlässlich ist.

In diesem Artikel werden wir untersuchen, wie die MNN-Integration funktioniert, häufige Anwendungsfälle hervorheben und zeigen, wie man mit der Durchführung von Inferenzen mit einem exportierten YOLO11-Modell beginnt. Legen wir los!

Ein Überblick über MNN: Ein Rahmen für tiefes Lernen

Die Ausführung von Computer-Vision-Modellen auf kleineren Geräten wie Mobiltelefonen, Industriesensoren und tragbaren Systemen ist nicht immer einfach. Diese Geräte haben oft einen begrenzten Speicher, langsamere Prozessoren und strenge Leistungsgrenzen. 

Das Mobile Neural Network (MNN) ist eine leichtgewichtige und leistungsstarke Inferenz-Engine, die von Alibaba entwickelt wurde, um KI-Modelle effizient auf ressourcenarmer Hardware auszuführen und gleichzeitig die Echtzeitleistung zu erhalten. MNN unterstützt eine Vielzahl von Plattformen, darunter Android, iOS und Linux, und arbeitet mit einer Reihe von Hardwaretypen wie Zentraleinheiten (CPUs) und Grafikverarbeitungseinheiten (GPUs).

Abbildung 2. Ein Blick auf den MNN-Rahmen(Quelle).

Die von Ultralytics unterstützte MNN-Integration ermöglicht es, YOLO11-Modelle einfach in das MNN-Format zu exportieren. Einfach ausgedrückt bedeutet dies, dass die Modelle vom YOLO-Format in MNN konvertiert werden können. 

Nach der Konvertierung können sie auf Geräten eingesetzt werden, die das MNN-Framework für effiziente Inferenzen auf dem Gerät unterstützen. Ein wesentlicher Vorteil der Verwendung des MNN-Formats besteht darin, dass es den Einsatz von YOLO11 in Szenarien vereinfacht, in denen Größe, Geschwindigkeit und Ressourceneffizienz entscheidend sind.

Hauptmerkmale des MNN-Inferenz-Backends

Bevor wir uns mit der Verwendung der MNN-Integration befassen, sollten wir einen Blick darauf werfen, was das MNN-Framework zu einer guten Wahl für die Ausführung von KI-Modellen auf realen Geräten macht. Es wurde entwickelt, um die einzigartigen Einschränkungen von Edge-Umgebungen zu bewältigen und dennoch eine schnelle und zuverlässige Leistung zu liefern.

Interessanterweise wird MNN intern bei Alibaba in über 30 Anwendungen eingesetzt, darunter Taobao, Tmall, Youku, DingTalk und Xianyu, und zwar in einer Vielzahl von Szenarien wie Live-Video, Kurzform-Inhalte, Bildersuche und Sicherheitsüberprüfungen auf dem Gerät. Sie unterstützt den Einsatz in großem Maßstab und führt täglich Millionen von Schlussfolgerungen in Produktionsumgebungen aus.

Hier sind einige der wichtigsten Merkmale des MNN-Rahmens:

  • Automatische Backend-Auswahl: MNN kann automatisch das am besten geeignete Ausführungs-Backend wählen, wie CPU oder GPU, basierend auf der Hardware, auf der es läuft.
  • Multithreading-Ausführung: Es unterstützt Multi-Threading, so dass es die Vorteile von Multicore-Prozessoren für schnellere Schlussfolgerungen voll ausschöpfen kann.
  • Unterstützt Modellquantisierung: Mit FP16- oder INT8-Quantisierung können Sie die Modellgröße erheblich reduzieren und so die Inferenzgeschwindigkeit bei geringerem Speicherbedarf verbessern.
  • Leicht und schnell: MNN hat einen sehr kleinen Fußabdruck, mit der Kernbibliothek etwa 400 KB auf Android und etwa 5 MB auf iOS, was es ideal für mobile und eingebettete Geräte macht.

Verstehen, wie die MNN-Integration funktioniert

Als Nächstes wollen wir uns ansehen, wie man YOLO11-Modelle in das MNN-Format exportiert.

Der erste Schritt ist die Installation des Python-Pakets Ultralytics, das alles enthält, was für den Export von YOLO11-Modellen in das MNN-Format erforderlich ist. Sie können dies tun, indem Sie "pip install ultralytics" in Ihrem Terminal oder in der Eingabeaufforderung ausführen. Wenn Sie ein Jupyter Notebook oder Google Colab verwenden, fügen Sie ein Ausrufezeichen vor dem Befehl ein.

Sollten während der Installation Probleme auftreten, finden Sie im Leitfaden für allgemeine Probleme Tipps zur Fehlerbehebung.

Sobald Ihre Umgebung eingerichtet ist, können Sie ein trainiertes YOLO11-Modell wie "yolo11n.pt" laden und es in das MNN-Format exportieren, wie im folgenden Code-Schnipsel gezeigt. Wenn Sie Ihr eigenes YOLO11-Modell trainiert haben, können Sie es einfach exportieren, indem Sie den Dateinamen durch den Pfad Ihres Modells ersetzen.

from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")

Nachdem Sie Ihr Modell in MNN konvertiert haben, können Sie es je nach Anwendungsbedarf für verschiedene mobile und eingebettete Plattformen verwenden.

Nehmen wir zum Beispiel an, Sie möchten das exportierte Modell an einem Verkehrsvideo testen. In diesem Fall können Sie das YOLO11-Modell im MNN-Format laden, um Objekte wie Fahrzeuge, Fußgänger und Verkehrszeichen direkt auf dem Gerät zu erkennen, wie im folgenden Beispiel gezeigt.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

Wenn die Inferenz abgeschlossen ist, wird das Ausgabevideo mit den erkannten Objekten automatisch im Ordner "runs/detect/predict" gespeichert. Wenn Sie die Inferenz direkt mit dem MNN-Python-Paket durchführen möchten, finden Sie in der offiziellen Ultralytics-Dokumentation weitere Einzelheiten und Beispiele.

Abbildung 3. Analyse des Verkehrs mit einem YOLO11-Modell, das in das MNN-Format exportiert wurde. Bild vom Autor.

Anwendungsfälle für den Einsatz von KI-Modellen, die durch YOLO11 und MNN ermöglicht werden

Der Einsatz von YOLO11 mit MNN ermöglicht schnelle, effiziente Computer-Vision-Aufgaben wie die Objekterkennung in Umgebungen, in denen eine Cloud-basierte Verarbeitung nicht sinnvoll oder möglich ist. Lassen Sie uns sehen, wie diese Integration in realen Szenarien besonders nützlich sein kann.

Mobile Edge AI für die Erkennung von Pflanzenkrankheiten

Apps zur Erkennung von Pflanzenkrankheiten, die auf der Klassifizierung von Bildern beruhen, werden bei Gärtnern, Forschern und Naturliebhabern immer beliebter. Mit nur einem Foto können die Nutzer schnell die ersten Anzeichen einer Krankheit erkennen, z. B. Blattflecken oder Verfärbungen. Da diese Apps oft in Außenbereichen eingesetzt werden, in denen der Internetzugang begrenzt oder nicht verfügbar ist, kann die Verarbeitung in der Cloud unzuverlässig sein.

Nach dem Training kann ein YOLO11-Modell in das MNN-Format exportiert werden und direkt auf mobilen Geräten ausgeführt werden. Das Modell kann dann Pflanzenarten klassifizieren und sichtbare Krankheitssymptome lokal erkennen, ohne Daten an einen Server zu senden. 

Abb. 4. Ein Beispiel für die Verwendung von YOLO11 zur Erkennung von Anzeichen von Rost (einer Pflanzenkrankheit) auf einem Blatt(Quelle).

Effiziente On-Device-Inferenzen in der Fertigung

Die genaue Verfolgung von Paketen ist bei stark frequentierten Produktionslinien in Fertigungsbetrieben unerlässlich. YOLO11 kann dazu verwendet werden, jeden Artikel zu verfolgen und zu zählen, während er die wichtigsten Kontrollpunkte durchläuft, wobei die Zählungen in Echtzeit aktualisiert und alle Unstimmigkeiten markiert werden. Dies trägt dazu bei, verpasste oder nicht gezählte Sendungen zu reduzieren und unterstützt einen reibungsloseren, zuverlässigeren Betrieb.

Abb. 5. Verfolgung und Zählung von Paketen mit YOLO11(Quelle).

Die MNN-Integration kann in diesem Zusammenhang besonders wirkungsvoll sein. Sobald das YOLO11-Modell in das MNN-Format exportiert wurde, kann es direkt auf kompakten, stromsparenden Geräten laufen, die entlang des Förderbandes installiert sind. 

Da die gesamte Verarbeitung lokal erfolgt, kann das System sofortiges Feedback liefern und benötigt keine Internetverbindung. Dies gewährleistet eine schnelle, zuverlässige Leistung in der Fabrikhalle und sorgt dafür, dass die Produktion effizient läuft und gleichzeitig eine hohe Genauigkeit und Kontrolle gewährleistet ist.

Vorteile des Exports von YOLO11 in das MNN-Modellformat

Hier sind einige der wichtigsten Vorteile der MNN-Integration von Ultralytics:

  • Schnellere Reaktionszeiten: Da die Schlussfolgerungen auf dem Gerät ausgeführt werden, erfolgen die Vorhersagen in Echtzeit mit minimaler Latenzzeit.
  • Verbessert Datenschutz: Die Daten bleiben auf dem Gerät, so dass weniger sensible Bilder oder Videos in die Cloud gesendet werden müssen.
  • Open-Source und aktiv gewartet: MNN wird von Alibaba unterstützt und von einer aktiven Community gepflegt. Es ist zuverlässig und wird regelmäßig mit Leistungsverbesserungen aktualisiert.

Faktoren, die bei der Verwendung des MNN-Rahmens zu berücksichtigen sind

Bevor Sie sich für MNN als Bereitstellungsframework entscheiden, sollten Sie prüfen, wie gut es zu den Anforderungen Ihres Projekts, den Bereitstellungszielen und den technischen Einschränkungen passt. Hier sind einige wichtige Faktoren zu berücksichtigen:

  • Laufende Kompatibilität: Aktualisierungen des Frameworks oder Änderungen an Ihren Zielplattformen erfordern möglicherweise erneute Tests oder Anpassungen, damit alles reibungslos funktioniert.
  • Weniger Debugging-Tools: Im Vergleich zu größeren Frameworks verfügt MNN über weniger Tools für das Debugging und die Untersuchung des Modellverhaltens, was die Fehlersuche erschweren kann.
  • Die Leistung hängt von der Hardware ab: Die Geschwindigkeit und Effizienz Ihres Modells hängt vom jeweiligen Gerät ab. Testen Sie Ihre Zielhardware, um sicherzustellen, dass sie Ihre Leistungsziele erfüllt.

Die wichtigsten Erkenntnisse

Die Unterstützung von Ultralytics für die MNN-Integration erleichtert den Export von YOLO11-Modellen zur Verwendung auf mobilen und eingebetteten Geräten. Dies ist eine praktische Option für Anwendungen, die eine schnelle, zuverlässige Erkennung erfordern, ohne auf einen Cloud-Zugang oder ständige Konnektivität angewiesen zu sein.

Dieses Setup trägt dazu bei, die Bereitstellung zu rationalisieren und gleichzeitig die Leistung und den Ressourcenbedarf niedrig zu halten. Ganz gleich, ob Sie Smart-Home-Systeme, Feldwerkzeuge oder kompakte Industriegeräte entwickeln, der Export von YOLO11 nach MNN bietet eine flexible und effiziente Möglichkeit, Computer-Vision-Aufgaben direkt auf Edge-Geräten auszuführen.

Werden Sie Teil unserer wachsenden Gemeinschaft! Erkunden Sie unser GitHub-Repository, um tiefer in die KI einzutauchen. Sind Sie bereit, mit Ihren Computer Vision Projekten zu beginnen? Informieren Sie sich über unsere Lizenzierungsoptionen. Entdecken Sie mehr über KI im Gesundheitswesen und Computer Vision im Einzelhandel auf unseren Lösungsseiten!

Lassen Sie uns gemeinsam die Zukunft
der KI gestalten!

Beginnen Sie Ihre Reise in die Zukunft des maschinellen Lernens

Kostenloser Start
Link in die Zwischenablage kopiert