Pruning und Quantisierung in Computer Vision: Ein kurzer Leitfaden

Mit dem technischen Fortschritt werden Edge-Geräte immer verbreiteter. Von Smartwatches, die deine Herzfrequenz erfassen, bis zu Drohnen, die Straßen überwachen: Edge-Systeme können Daten direkt auf dem Gerät lokal in Echtzeit verarbeiten.

Diese Methode ist oft schneller und sicherer als das Senden von Daten an die Cloud, besonders bei Anwendungen mit personenbezogenen Daten, etwa der Erkennung von Nummernschildern oder der Gestenerfassung. Dies sind Beispiele für Computer Vision, ein Teilgebiet der künstlichen Intelligenz (AI), das Maschinen ermöglicht, visuelle Informationen zu interpretieren und zu verstehen.

Abb. 1. Ein Beispiel für die Erkennung von Nummernschildern. (Quelle)

Ein wichtiger Aspekt ist jedoch, dass solche Anwendungen Vision-KI-Modelle erfordern, die rechenintensive Aufgaben bewältigen, nur wenige Ressourcen benötigen und unabhängig arbeiten können. Die meisten Computer-Vision-Modelle werden für leistungsstarke Systeme entwickelt und eignen sich daher weniger für die direkte Bereitstellung auf Edge-Geräten.

Um diese Lücke zu schließen, wenden Entwickler häufig gezielte Optimierungen an, damit das Modell auch auf kleinerer Hardware effizient läuft. Diese Anpassungen sind für den praktischen Einsatz am Netzwerkrand entscheidend, wo Speicher und Rechenleistung begrenzt sind.

Interessanterweise sind Computer-Vision-Modelle wie Ultralytics YOLO11 bereits auf Effizienz am Netzwerkrand ausgelegt und eignen sich daher hervorragend für Echtzeitaufgaben. Ihre Leistung lässt sich jedoch durch Modelloptimierungstechniken wie Pruning und Quantisierung weiter steigern, sodass die Inferenz noch schneller läuft und auf Geräten mit begrenzten Ressourcen weniger davon benötigt.

In diesem Artikel sehen wir uns genauer an, was Pruning und Quantisierung sind, wie sie funktionieren und wie sie YOLO-Modelle bei ihrem praktischen Einsatz am Netzwerkrand unterstützen können. Los geht’s!

Pruning und Quantisierung: zentrale Techniken der Modelloptimierung#

Bei der Vorbereitung von Vision-KI-Modellen für den Einsatz auf Edge-Geräten besteht eines der wichtigsten Ziele darin, das Modell leichtgewichtig und zuverlässig zu machen, ohne die Leistung zu beeinträchtigen. Dazu werden häufig die Modellgröße und der Rechenaufwand verringert, damit das Modell effizient auf Hardware mit begrenztem Speicher, Energie oder Rechenleistung läuft. Zwei gängige Methoden dafür sind Pruning und Quantisierung.

Pruning ist eine Technik zur Modelloptimierung, mit der sich neuronale Netze verkleinern und effizienter machen lassen. Oft tragen Teile eines Modells, etwa bestimmte Verbindungen oder Knoten, nur wenig zu den endgültigen Vorhersagen bei. Beim Pruning werden diese weniger wichtigen Teile erkannt und entfernt. Dadurch wird das Modell kleiner und arbeitet schneller.

Bei der Quantisierung hingegen wird die Genauigkeit der Zahlen verringert, mit denen ein Modell arbeitet. Anstatt hochpräzise 32-Bit-Gleitkommazahlen zu verwenden, wechselt das Modell zu kleineren, effizienteren Formaten wie 8-Bit-Ganzzahlen. Dadurch sinkt der Speicherbedarf und die Inferenz – also der Vorgang, bei dem das Modell Vorhersagen trifft – wird beschleunigt.

Abb. 2. Ein Blick auf Pruning und Quantisierung. (Quelle)

So funktionieren Pruning und Quantisierung#

Nachdem wir nun besser verstehen, was Pruning und Quantisierung sind, sehen wir uns an, wie beide Verfahren funktionieren.

Pruning erfolgt mithilfe eines Verfahrens, das als Sensitivitätsanalyse bezeichnet wird. Dabei wird ermittelt, welche Teile neuronaler Netze – etwa bestimmte Gewichte, Neuronen oder Kanäle – am wenigsten zur endgültigen Vorhersage beitragen. Diese Teile können mit minimalen Auswirkungen auf die Genauigkeit entfernt werden. Nach dem Pruning wird das Modell gewöhnlich erneut trainiert, um seine Leistung fein abzustimmen. Dieser Zyklus kann wiederholt werden, bis ein ausgewogenes Verhältnis zwischen Modellgröße und Genauigkeit erreicht ist.

Bei der Modellquantisierung geht es darum, wie das Modell Daten verarbeitet. Zunächst wird das Modell kalibriert, indem es mit Beispieldaten ausgeführt wird, um den Wertebereich zu ermitteln, den es verarbeiten muss. Anschließend werden diese Werte von 32-Bit-Gleitkommazahlen in Formate mit geringerer Genauigkeit umgewandelt, etwa 8-Bit-Ganzzahlen.

Abb. 3. Quantisierung verringert Modellgröße und Komplexität. (Quelle)

Es stehen verschiedene Tools zur Verfügung, die den Einsatz von Pruning und Quantisierung in realen KI-Projekten erleichtern. Die meisten KI-Frameworks wie PyTorch und TensorFlow unterstützen diese Optimierungstechniken bereits, sodass Entwickler sie direkt in den Modellbereitstellungsprozess integrieren können.

Nach der Optimierung eines Modells können Tools wie ONNX Runtime dazu beitragen, es effizient auf verschiedenen Hardwareplattformen wie Servern, Desktop-Computern und Edge-Geräten auszuführen. Ultralytics bietet außerdem Integrationen, mit denen sich YOLO-Modelle in Formate exportieren lassen, die sich für die Quantisierung eignen (zum Beispiel quantize=8 für INT8, sofern das Format dies unterstützt). Dadurch lassen sich die Modellgröße verringern und die Leistung steigern.

Überblick über die Modelloptimierung mit Ultralytics YOLO#

Ultralytics-YOLO-Modelle wie YOLO11 sind für ihre schnelle Objekterkennung in einem Durchlauf bekannt und eignen sich daher ideal für Vision-KI-Aufgaben in Echtzeit. Sie sind bereits leichtgewichtig und effizient genug für den Einsatz am Netzwerkrand. Die Schichten, die für die Verarbeitung visueller Merkmale zuständig sind und als Faltungsschichten bezeichnet werden, können während der Inferenz jedoch weiterhin erhebliche Rechenleistung erfordern.

Du fragst dich vielleicht: Wenn Ultralytics YOLO11 bereits für den Einsatz am Netzwerkrand optimiert ist, warum muss es dann noch weiter optimiert werden? Ganz einfach: Nicht alle Edge-Geräte sind gleich. Manche verfügen nur über sehr einfache Hardware, etwa winzige eingebettete Prozessoren, die weniger Strom verbrauchen als eine herkömmliche LED-Glühbirne.

In solchen Fällen muss selbst ein schlankes Modell wie Ultralytics YOLO11 zusätzlich optimiert werden, damit es zuverlässig und reibungslos läuft. Verfahren wie Pruning und Quantisierung verringern die Modellgröße und beschleunigen die Inferenz, ohne die Genauigkeit wesentlich zu beeinträchtigen. Das macht sie ideal für Umgebungen mit solchen Einschränkungen.

Um die Anwendung dieser Optimierungstechniken zu erleichtern, unterstützt Ultralytics verschiedene Integrationen, mit denen sich YOLO-Modelle in zahlreiche Formate wie ONNX, TensorRT, OpenVINO, CoreML und PaddlePaddle exportieren lassen. Jedes Format ist auf bestimmte Hardwaretypen und Bereitstellungsumgebungen abgestimmt.

ONNX wird beispielsweise aufgrund seiner Kompatibilität mit zahlreichen Tools und Plattformen häufig in Quantisierungsabläufen eingesetzt. TensorRT hingegen ist stark für NVIDIA-Geräte optimiert und unterstützt Inferenz mit niedriger Genauigkeit unter Verwendung von INT8. Damit eignet es sich ideal für die schnelle Bereitstellung auf Edge-GPUs.

Einsatzmöglichkeiten der Modelloptimierung mit Ultralytics YOLO#

Da Computer Vision zunehmend in verschiedenen realen Anwendungen zum Einsatz kommt, ermöglichen optimierte YOLO-Modelle Aufgaben wie Objekterkennung, Instanzsegmentierung und Objektverfolgung auf kleinerer, schnellerer Hardware. Sehen wir uns nun einige Anwendungsfälle an, in denen Pruning und Quantisierung diese Computer-Vision-Aufgaben effizienter und praktikabler machen.

Intelligente Überwachung mit Ultralytics YOLO11#

Viele Industrieanlagen und öffentliche Bereiche sind auf Echtzeitüberwachung angewiesen, um Sicherheit zu gewährleisten. Orte wie Bahnhöfe, Produktionsstätten und große Außenanlagen benötigen Vision-KI-Systeme, die Personen oder Fahrzeuge schnell und präzise erkennen. Häufig sind diese Orte nur eingeschränkt vernetzt und verfügen über begrenzte Hardware, was die Bereitstellung großer Modelle erschwert.

In solchen Fällen ist ein optimiertes Vision-KI-Modell wie Ultralytics YOLO11 eine hervorragende Lösung. Dank seiner kompakten Größe und hohen Geschwindigkeit eignet es sich ideal für den Betrieb auf stromsparenden Edge-Geräten wie eingebetteten Kameras oder intelligenten Sensoren. Diese Modelle verarbeiten visuelle Daten direkt auf dem Gerät und erkennen so in Echtzeit Sicherheitsverstöße, unbefugten Zutritt oder ungewöhnliche Aktivitäten – ganz ohne ständigen Zugriff auf die Cloud.

Abb. 4. Ultralytics YOLO11 kann zur Überwachung öffentlicher Orte wie U-Bahn-Stationen eingesetzt werden.

Mehr Sicherheit auf Baustellen mit Ultralytics YOLO11#

Baustellen sind hektische und unberechenbare Umgebungen mit schweren Maschinen, umherlaufenden Beschäftigten und ständigem Betrieb. Durch wechselnde Zeitpläne, bewegte Geräte oder plötzliche Wetteränderungen können sich die Bedingungen schnell ändern. In einem solch dynamischen Umfeld ist die Sicherheit der Beschäftigten eine ständige Herausforderung.

Echtzeitüberwachung spielt eine entscheidende Rolle, doch herkömmliche Systeme sind oft auf Cloud-Zugriff oder teure Hardware angewiesen, die vor Ort möglicherweise nicht praktikabel ist. Hier können Modelle wie Ultralytics YOLO11 viel bewirken. YOLO11 lässt sich für den Betrieb auf kleinen, effizienten Edge-Geräten optimieren, die direkt vor Ort und ohne Internetverbindung arbeiten.

Nehmen wir beispielsweise eine große Baustelle wie den Ausbau einer Autobahn, der sich über mehrere Hektar erstreckt. In einer solchen Umgebung kann es schwierig und zeitaufwendig sein, jedes Fahrzeug und jedes Gerät manuell zu verfolgen. Eine mit einer Kamera und einem optimierten Ultralytics-YOLO11-Modell ausgestattete Drohne kann Fahrzeuge automatisch erkennen und verfolgen, den Verkehrsfluss überwachen und Sicherheitsprobleme wie unbefugten Zutritt oder unsicheres Fahrverhalten erkennen.

Abb. 5. Drohnenbilder von einer Baustelle analysieren. (Quelle)

Vor- und Nachteile von Pruning und Quantisierung in der Computer Vision#

Hier sind einige wichtige Vorteile, die Methoden zur Optimierung von Computer-Vision-Modellen wie Pruning und Quantisierung bieten:

• Kostengünstige Bereitstellung: Kleinere und effizientere Modelle können den Bedarf an teurer High-End-Hardware senken und KI so für verschiedene Anwendungsfälle zugänglicher und besser skalierbar machen.
• Geringere Latenz: Durch die Vereinfachung der Modellarchitektur und die Verringerung des Rechenaufwands können diese Techniken die Reaktionszeiten in Echtzeitanwendungen verkürzen.
• Energieeffizienz: Ein geringerer Rechenaufwand senkt auch den Stromverbrauch. Das ist besonders hilfreich bei batteriebetriebenen oder mobilen Systemen.

Pruning und Quantisierung bieten zwar viele Vorteile, gehen aber auch mit Kompromissen einher, die Entwickler bei der Modelloptimierung berücksichtigen sollten. Hier sind einige Einschränkungen, die du im Blick behalten solltest:

• Kompromisse bei der Genauigkeit: Bei zu aggressivem Pruning oder einer Quantisierung mit sehr wenigen Bits kann die anhand von Kennzahlen wie mAP gemessene Modellgenauigkeit sinken.
• Hardwarebeschränkungen: Nicht alle Geräte unterstützen Formate mit geringerer Genauigkeit wie INT8 gleichermaßen gut. Dadurch kann eingeschränkt sein, wo und wie ein optimiertes Modell eingesetzt werden kann.
• Komplexe Umsetzung: Gute Ergebnisse erfordern häufig eine sorgfältige, auf das jeweilige Modell abgestimmte Feinabstimmung. Um die Leistung trotz höherer Effizienz zu erhalten, müssen Entwickler das Modell möglicherweise erneut trainieren und umfangreich testen.

Die wichtigsten Erkenntnisse#

Pruning und Quantisierung sind nützliche Verfahren, mit denen YOLO-Modelle auf Edge-Geräten besser funktionieren. Sie verkleinern das Modell, senken den Rechenbedarf und beschleunigen Vorhersagen – in der Regel mit nur geringen Genauigkeitseinbußen.

Diese Optimierungsmethoden geben Entwicklern außerdem die Flexibilität, Modelle an unterschiedliche Hardware anzupassen, ohne sie vollständig neu erstellen zu müssen. Mit etwas Feinabstimmung und Tests lässt sich Vision-KI einfacher in realen Anwendungsszenarien einsetzen.

Werde Teil unserer wachsenden Community! In unserem GitHub-Repository erfährst du mehr über KI. Du möchtest mit deinen Computer-Vision-Projekten loslegen? Sieh dir unsere Lizenzoptionen an. Entdecke KI in der Landwirtschaft und Vision-KI im Gesundheitswesen auf unseren Lösungsseiten!