Pruning und Quantisierung in Computer Vision: Ein kurzer Leitfaden
Entdecke, warum Pruning und Quantisierung für die Optimierung von Computer-Vision-Modellen und eine schnellere Verarbeitung auf Edge-Geräten unerlässlich sind.
Mit dem technologischen Fortschritt werden Edge-Geräte immer häufiger eingesetzt. Von Smartwatches, die deine Herzfrequenz erfassen, bis hin zu Drohnen, die Straßen überwachen – Edge-Systeme können Daten in Echtzeit lokal direkt auf dem Gerät verarbeiten.
Diese Methode ist oft schneller und sicherer als das Senden von Daten in die Cloud, insbesondere bei Anwendungen mit personenbezogenen Daten, etwa der Kennzeichenerkennung oder Gestenverfolgung. Dies sind Beispiele für Computer Vision, einen Bereich der künstlichen Intelligenz (AI), der Maschinen ermöglicht, visuelle Informationen zu interpretieren und zu verstehen.
Abb. 1. Ein Beispiel für die Kennzeichenerkennung. (Quelle)
Eine wichtige Überlegung ist jedoch, dass solche Anwendungen Vision-AI-Modelle benötigen, die rechenintensive Aufgaben bewältigen, nur wenige Ressourcen benötigen und unabhängig arbeiten können. Die meisten Computer-Vision-Modelle werden für leistungsstarke Systeme entwickelt und eignen sich daher weniger für die direkte Bereitstellung auf Edge-Geräten.
Um diese Lücke zu schließen, wenden Entwickler häufig gezielte Optimierungen an, die das Modell für einen effizienten Betrieb auf kleinerer Hardware anpassen. Diese Anpassungen sind für reale Edge-Einsätze entscheidend, bei denen Speicher und Rechenleistung begrenzt sind.
Interessanterweise sind Computer-Vision-Modelle wie Ultralytics YOLO11 bereits auf einen effizienten Betrieb am Edge ausgelegt und daher ideal für Echtzeitaufgaben. Ihre Leistung kann jedoch durch Modelloptimierungstechniken wie Beschneiden und Quantisierung weiter verbessert werden, wodurch eine noch schnellere Inferenz und ein geringerer Ressourcenverbrauch auf Geräten mit begrenzten Ressourcen möglich werden.
In diesem Artikel sehen wir uns genauer an, was Beschneiden und Quantisierung sind, wie sie funktionieren und wie sie YOLO-Modelle bei realen Edge-Einsätzen unterstützen können. Legen wir los!
Beschneiden und Quantisierung: Zentrale Techniken der Modelloptimierung#
Bei der Vorbereitung von Vision-AI-Modellen für den Einsatz auf Edge-Geräten besteht eines der wichtigsten Ziele darin, das Modell leichtgewichtig und zuverlässig zu machen, ohne die Leistung zu beeinträchtigen. Dazu werden häufig die Größe und der Rechenaufwand des Modells reduziert, damit es effizient auf Hardware mit begrenztem Speicher, begrenzter Energie oder begrenzter Rechenkapazität arbeiten kann. Zwei gängige Methoden dafür sind Beschneiden und Quantisierung.
Beschneiden ist eine Technik zur Modelloptimierung, die neuronale Netze kleiner und effizienter macht. In vielen Fällen tragen Teile eines Modells, etwa bestimmte Verbindungen oder Knoten, nur wenig zu den endgültigen Vorhersagen bei. Beim Beschneiden werden diese weniger wichtigen Teile identifiziert und entfernt, wodurch sich die Modellgröße verringert und die Leistung beschleunigt.
Bei der Quantisierung hingegen wird die Genauigkeit der vom Modell verwendeten Zahlen reduziert. Statt hochpräziser 32-Bit-Gleitkommazahlen verwendet das Modell kleinere, effizientere Formate wie 8-Bit-Ganzzahlen. Dadurch sinkt der Speicherbedarf und die Inferenz wird beschleunigt, also der Prozess, bei dem das Modell Vorhersagen trifft.
Abb. 2. Ein Blick auf Beschneiden und Quantisierung. (Quelle)
So funktionieren Beschneiden und Quantisierung#
Nachdem wir nun besser verstehen, was Beschneiden und Quantisierung sind, sehen wir uns an, wie beide Verfahren funktionieren.
Das Beschneiden erfolgt mithilfe eines als Sensitivitätsanalyse bezeichneten Verfahrens. Dabei wird ermittelt, welche Teile neuronaler Netze, etwa bestimmte Gewichte, Neuronen oder Kanäle, am wenigsten zur endgültigen Ausgabevorhersage beitragen. Diese Teile können mit minimalen Auswirkungen auf die Genauigkeit entfernt werden. Nach dem Beschneiden wird das Modell normalerweise erneut trainiert, um seine Leistung fein abzustimmen. Dieser Zyklus kann wiederholt werden, um das richtige Gleichgewicht zwischen Größe und Genauigkeit zu finden.
Die Modellquantisierung konzentriert sich dagegen darauf, wie das Modell Daten verarbeitet. Sie beginnt mit der Kalibrierung, bei der das Modell mit Beispieldaten ausgeführt wird, um den Wertebereich zu ermitteln, den es verarbeiten muss. Diese Werte werden anschließend von 32-Bit-Gleitkommazahlen in Formate mit geringerer Genauigkeit wie 8-Bit-Ganzzahlen umgewandelt.
Abb. 3. Quantisierung hilft, Modellgröße und Komplexität zu reduzieren. (Quelle)
Es stehen verschiedene Werkzeuge zur Verfügung, die den Einsatz von Beschneiden und Quantisierung in realen AI-Projekten erleichtern. Die meisten AI-Frameworks wie PyTorch und TensorFlow bieten integrierte Unterstützung für diese Optimierungstechniken, sodass Entwickler sie direkt in den Prozess der Modellbereitstellung integrieren können.
Sobald ein Modell optimiert ist, können Werkzeuge wie ONNX Runtime dazu beitragen, es effizient auf verschiedenen Hardwareplattformen wie Servern, Desktoprechnern und Edge-Geräten auszuführen. Außerdem bietet Ultralytics Integrationen, mit denen sich YOLO-Modelle in für die Quantisierung geeignete Formate exportieren lassen. Dadurch werden die Reduzierung der Modellgröße und die Leistungssteigerung erleichtert.
Ein Überblick über die Optimierung von Ultralytics-YOLO-Modellen#
Ultralytics-YOLO-Modelle wie YOLO11 sind für ihre schnelle Objekterkennung in einem einzigen Verarbeitungsschritt weithin bekannt und damit ideal für Vision-AI-Aufgaben in Echtzeit. Sie sind bereits leichtgewichtig und effizient genug für den Einsatz am Edge. Die für die Verarbeitung visueller Merkmale zuständigen Schichten, die als Faltungsschichten bezeichnet werden, können während der Inferenz jedoch weiterhin beträchtliche Rechenleistung erfordern.
Du fragst dich vielleicht: Wenn Ultralytics YOLO11 bereits für den Einsatz am Edge optimiert ist, warum ist dann eine weitere Optimierung erforderlich? Einfach gesagt sind nicht alle Edge-Geräte gleich. Einige arbeiten mit sehr begrenzter Hardware, etwa winzigen eingebetteten Prozessoren, die weniger Energie verbrauchen als eine herkömmliche LED-Glühbirne.
In solchen Fällen benötigt selbst ein schlankes Modell wie Ultralytics YOLO11 zusätzliche Optimierungen, um eine reibungslose und zuverlässige Leistung sicherzustellen. Techniken wie Beschneiden und Quantisierung reduzieren die Modellgröße und beschleunigen die Inferenz, ohne die Genauigkeit wesentlich zu beeinträchtigen. Damit eignen sie sich ideal für solche Umgebungen mit begrenzten Ressourcen.
Um die Anwendung dieser Optimierungstechniken zu erleichtern, unterstützt Ultralytics verschiedene Integrationen, mit denen sich YOLO-Modelle in mehrere Formate wie ONNX, TensorRT, OpenVINO, CoreML und PaddlePaddle exportieren lassen. Jedes Format ist auf den effizienten Betrieb mit bestimmten Hardwaretypen und in bestimmten Einsatzumgebungen ausgelegt.
ONNX wird beispielsweise aufgrund seiner Kompatibilität mit einer Vielzahl von Werkzeugen und Plattformen häufig in Quantisierungs-Workflows eingesetzt. TensorRT ist dagegen stark für NVIDIA-Geräte optimiert und unterstützt Inferenz mit niedriger Genauigkeit unter Verwendung von INT8. Damit eignet es sich ideal für den Hochgeschwindigkeitseinsatz auf Edge-GPUs.
Praxisnahe Anwendungsfälle der Optimierung von Ultralytics-YOLO-Modellen#
Da sich Computer Vision immer weiter auf verschiedene reale Anwendungen ausdehnt, ermöglichen optimierte YOLO-Modelle den Betrieb von Aufgaben wie Objekterkennung, Instanzsegmentierung und Objektverfolgung auf kleinerer und schnellerer Hardware. Im Folgenden sehen wir uns einige Anwendungsfälle an, in denen Beschneiden und Quantisierung diese Computer-Vision-Aufgaben effizienter und praktikabler machen.
Intelligente Überwachung mit Ultralytics YOLO11#
Viele Industrieanlagen und öffentliche Bereiche sind auf Überwachung in Echtzeit angewiesen, um sicher zu bleiben. Orte wie Verkehrsstationen, Produktionsstandorte und große Außenanlagen benötigen Vision-AI-Systeme, die Personen oder Fahrzeuge schnell und präzise erkennen können. Häufig verfügen diese Orte nur über eine eingeschränkte Konnektivität und begrenzte Hardware, was die Bereitstellung großer Modelle erschwert.
In solchen Fällen ist ein optimiertes Vision-AI-Modell wie Ultralytics YOLO11 eine hervorragende Lösung. Seine kompakte Größe und schnelle Leistung machen es ideal für den Betrieb auf Edge-Geräten mit geringem Energieverbrauch, etwa eingebetteten Kameras oder intelligenten Sensoren. Diese Modelle können visuelle Daten direkt auf dem Gerät verarbeiten und so die Echtzeiterkennung von Sicherheitsverstößen, unbefugtem Zugriff oder ungewöhnlichen Aktivitäten ermöglichen, ohne auf einen ständigen Cloud-Zugriff angewiesen zu sein.
Abb. 4. Ultralytics YOLO11 kann zur Überwachung öffentlicher Orte wie U-Bahn-Stationen eingesetzt werden.
Mehr Sicherheit auf Baustellen mit Ultralytics YOLO11#
Baustellen sind schnelllebige und unvorhersehbare Umgebungen mit schweren Maschinen, sich bewegenden Arbeitskräften und ständiger Aktivität. Die Bedingungen können sich durch wechselnde Zeitpläne, die Bewegung von Geräten oder sogar plötzliche Wetteränderungen schnell verändern. In einer so dynamischen Umgebung kann die Sicherheit der Arbeitskräfte zu einer dauerhaften Herausforderung werden.
Die Überwachung in Echtzeit spielt eine entscheidende Rolle, doch herkömmliche Systeme sind häufig auf Cloud-Zugriff oder teure Hardware angewiesen, die vor Ort möglicherweise nicht praktikabel ist. Hier können Modelle wie Ultralytics YOLO11 einen großen Unterschied machen. YOLO11 lässt sich für den Betrieb auf kleinen, effizienten Edge-Geräten optimieren, die direkt vor Ort und ohne Internetverbindung arbeiten.
Stell dir beispielsweise eine große Baustelle wie den Ausbau einer Autobahn vor, die sich über mehrere Hektar erstreckt. In einer solchen Umgebung kann es schwierig und zeitaufwendig sein, jedes Fahrzeug und jedes Ausrüstungsteil manuell zu verfolgen. Eine mit einer Kamera und einem optimierten Ultralytics-YOLO11-Modell ausgestattete Drohne kann helfen, indem sie Fahrzeuge automatisch erkennt und verfolgt, den Verkehrsfluss überwacht und Sicherheitsprobleme wie unbefugten Zugriff oder unsicheres Fahrverhalten identifiziert.
Abb. 5. Analyse von Drohnenbildern einer Baustelle. (Quelle)
Vor- und Nachteile von Beschneiden und Quantisierung in der Computer Vision#
Hier sind einige wichtige Vorteile, die Methoden zur Optimierung von Computer-Vision-Modellen wie Beschneiden und Quantisierung bieten:
- Kostengünstige Bereitstellung: Kleinere und effizientere Modelle können den Bedarf an teurer High-End-Hardware reduzieren und AI dadurch für verschiedene Anwendungsfälle zugänglicher und skalierbarer machen.
- Geringere Latenz: Durch die Vereinfachung der Modellarchitektur und die Reduzierung des Rechenaufwands können diese Techniken in Echtzeitanwendungen zu schnelleren Reaktionszeiten beitragen.
- Energieeffizienz: Die Verringerung des Rechenaufwands senkt auch den Energieverbrauch, was besonders für batteriebetriebene oder mobile Systeme hilfreich ist.
Beschneiden und Quantisierung bieten viele Vorteile, bringen aber auch bestimmte Abwägungen mit sich, die Entwickler bei der Optimierung von Modellen berücksichtigen sollten. Hier sind einige Einschränkungen, die du beachten solltest:
- Abwägungen bei der Genauigkeit: Wenn zu aggressiv beschnitten oder eine Quantisierung mit sehr wenigen Bits verwendet wird, kann die Genauigkeit des Modells, gemessen anhand von Metriken wie mAP, abnehmen.
- Hardwarebeschränkungen: Nicht alle Geräte unterstützen Formate mit geringerer Genauigkeit wie INT8 gleichermaßen gut. Dadurch kann eingeschränkt werden, wo und wie ein optimiertes Modell eingesetzt werden kann.
- Komplexität der Implementierung: Gute Ergebnisse erfordern häufig eine sorgfältige, modellspezifische Feinabstimmung. Entwickler müssen das Modell möglicherweise erneut trainieren und umfangreiche Tests durchführen, um die Leistung bei gleichzeitiger Effizienzsteigerung aufrechtzuerhalten.
Wichtige Erkenntnisse#
Beschneiden und Quantisierung sind nützliche Techniken, mit denen YOLO-Modelle auf Edge-Geräten besser arbeiten können. Sie reduzieren die Modellgröße und den Rechenbedarf und beschleunigen Vorhersagen, ohne dass die Genauigkeit merklich abnimmt.
Diese Optimierungsmethoden geben Entwicklern außerdem die Flexibilität, Modelle für verschiedene Hardwaretypen anzupassen, ohne sie vollständig neu erstellen zu müssen. Mit etwas Feinabstimmung und Tests wird es einfacher, Vision AI in realen Situationen einzusetzen.
Werde Teil unserer wachsenden Community! Besuche unser GitHub-Repository, um mehr über AI zu erfahren. Möchtest du mit deinen Computer-Vision-Projekten beginnen? Sieh dir unsere Lizenzierungsoptionen an. Entdecke AI in der Landwirtschaft und Vision AI im Gesundheitswesen auf unseren Lösungsseiten!
