Pruning und Quantisierung in der Computer Vision: Ein kurzer Leitfaden

Edge-Geräte werden mit fortschreitender Technologie immer häufiger eingesetzt. Von Smartwatches, die deine Herzfrequenz messen, bis hin zu Drohnen, die Straßen überwachen: Edge-Systeme können Daten in Echtzeit direkt auf dem Gerät selbst verarbeiten.

Diese Methode ist oft schneller und sicherer als das Senden von Daten in die Cloud, insbesondere bei Anwendungen mit personenbezogenen Daten wie Kennzeichenerkennung oder Gestenverfolgung. Dies sind Beispiele für computer vision, einen Zweig der künstlichen Intelligenz (KI), der es Maschinen ermöglicht, visuelle Informationen zu interpretieren und zu verstehen.

Abb. 1: Ein Beispiel für die Kennzeichenerkennung. (Quelle)

Ein wichtiger Aspekt ist jedoch, dass solche Anwendungen Vision-KI-Modelle erfordern, die schwere Berechnungen bewältigen, minimale Ressourcen nutzen und unabhängig arbeiten können. Die meisten computer vision models sind für Hochleistungssysteme entwickelt, weshalb sie sich weniger für die direkte Bereitstellung auf Edge-Geräten eignen.

Um diese Lücke zu schließen, wenden Entwickler oft gezielte Optimierungen an, die das Modell an die effiziente Ausführung auf kleinerer Hardware anpassen. Diese Anpassungen sind entscheidend für reale Edge-Implementierungen, bei denen Speicher und Rechenleistung begrenzt sind.

Interessanterweise sind Computer-Vision-Modelle wie Ultralytics YOLO11 bereits auf Edge-Effizienz ausgelegt, wodurch sie sich hervorragend für Echtzeitaufgaben eignen. Ihre Leistung lässt sich jedoch durch Modelloptimierungstechniken wie Pruning und Quantisierung weiter steigern, was auf ressourcenbeschränkten Geräten noch schnellere Inferenz und einen geringeren Ressourcenverbrauch ermöglicht.

In diesem Artikel werden wir uns genauer ansehen, was Pruning und Quantisierung sind, wie sie funktionieren und wie sie YOLO Modellen helfen können, in realen Edge-Umgebungen Leistung zu erbringen. Fangen wir an!

Pruning und Quantisierung: Kerntechniken der Modelloptimierung#

Bei der Vorbereitung von Vision AI Modellen für den Einsatz auf Edge-Geräten ist es ein Hauptziel, das Modell leicht und zuverlässig zu machen, ohne die Leistung zu beeinträchtigen. Dies beinhaltet oft die Reduzierung der Modellgröße und der Rechenanforderungen, damit es effizient auf Hardware mit begrenztem Speicher, Energie oder Prozessorleistung arbeiten kann. Zwei gängige Methoden hierfür sind Pruning und Quantisierung.

Pruning ist eine KI-model optimization-Technik, die dazu beiträgt, neuronale Netze kleiner und effizienter zu machen. In vielen Fällen tragen Teile eines Modells, wie bestimmte Verbindungen oder Knoten, nicht viel zu seinen endgültigen Vorhersagen bei. Pruning funktioniert, indem diese weniger wichtigen Teile identifiziert und entfernt werden, wodurch die Größe des Modells reduziert und seine Leistung beschleunigt wird.

Andererseits ist die Quantisierung eine Optimierungstechnik, die die Präzision der Zahlen reduziert, die ein Modell verwendet. Anstatt sich auf hochpräzise 32-Bit-Gleitkommazahlen zu verlassen, wechselt das Modell zu kleineren, effizienteren Formaten wie 8-Bit-Integers. Diese Änderung trägt dazu bei, den Speicherverbrauch zu senken und die Inferenz zu beschleunigen, also den Prozess, bei dem das Modell Vorhersagen trifft.

Abb. 2: Ein Blick auf Pruning und Quantisierung. (Quelle)

Wie Pruning und Quantisierung funktionieren#

Nun, da wir ein besseres Verständnis davon haben, was pruning und Quantisierung sind, schauen wir uns an, wie beide funktionieren.

Pruning erfolgt durch einen Prozess, der als Sensitivitätsanalyse bekannt ist. Dabei wird ermittelt, welche Teile der neuronalen Netzwerkmodelle, wie bestimmte Gewichte, Neuronen oder Kanäle, am wenigsten zur endgültigen Vorhersage beitragen. Diese Teile können mit minimaler Auswirkung auf die Genauigkeit entfernt werden. Nach dem Pruning wird das Modell normalerweise neu trainiert, um seine Leistung feinabzustimmen. Dieser Zyklus kann wiederholt werden, um das richtige Gleichgewicht zwischen Größe und Genauigkeit zu finden.

Unterdessen konzentriert sich die model quantization darauf, wie das Modell mit Daten umgeht. Sie beginnt mit einer Kalibrierung, bei der das Modell mit Beispieldaten ausgeführt wird, um den Wertebereich zu lernen, den es verarbeiten muss. Diese Werte werden dann von Gleitkommazahlen mit einfacher Genauigkeit (32-Bit) in Formate mit geringerer Präzision wie 8-Bit-Ganzzahlen konvertiert.

Abb. 3: Quantisierung hilft, die Modellgröße und -komplexität zu reduzieren. (Quelle)

Es gibt verschiedene Tools, die den Einsatz von Pruning und Quantisierung in realen KI-Projekten erleichtern. Die meisten KI-Frameworks, wie PyTorch und TensorFlow, bieten integrierte Unterstützung für diese Optimierungstechniken, sodass Entwickler sie direkt in den Modellbereitstellungsprozess integrieren können.

Sobald ein Modell optimiert ist, können Tools wie ONNX Runtime dabei helfen, es effizient auf verschiedenen Hardwareplattformen wie Servern, Desktops und Edge-Geräten auszuführen. Außerdem bietet Ultralytics Integrationen an, mit denen YOLO Modelle in Formate exportiert werden können, die für die Quantisierung geeignet sind, was die Reduzierung der Modellgröße und die Steigerung der Leistung erleichtert.

Ein Überblick über die Ultralytics YOLO Modelloptimierung#

Ultralytics YOLO-Modelle wie YOLO11 sind für ihre schnelle Ein-Schritt-Objekterkennung bekannt, was sie ideal für Echtzeit-vision AI tasks macht. Sie sind bereits so konzipiert, dass sie leicht und effizient genug für die Edge-Bereitstellung sind. Die für die Verarbeitung visueller Merkmale zuständigen Schichten, die sogenannten Faltungsschichten (convolutional layers), können jedoch während der Inferenz nach wie vor erhebliche Rechenleistung erfordern.

Du fragst dich vielleicht: Wenn Ultralytics YOLO11 bereits für die Edge-Nutzung optimiert ist, warum braucht es dann noch weitere Optimierungen? Ganz einfach: Nicht alle Edge-Geräte sind gleich. Einige laufen auf sehr minimalistischer Hardware, wie winzigen eingebetteten Prozessoren, die weniger Strom verbrauchen als eine normale LED-Glühbirne.

In diesen Fällen benötigt selbst ein schlankes Modell wie Ultralytics YOLO11 zusätzliche Optimierungen, um eine reibungslose und zuverlässige Leistung zu gewährleisten. Techniken wie Pruning und Quantisierung helfen dabei, die Modellgröße zu reduzieren und die Inferenz zu beschleunigen, ohne die Genauigkeit nennenswert zu beeinträchtigen, wodurch sie sich ideal für derartig eingeschränkte Umgebungen eignen.

Um die Anwendung dieser Optimierungstechniken zu erleichtern, unterstützt Ultralytics verschiedene integrations, mit denen YOLO-Modelle in mehrere Formate wie ONNX, TensorRT, OpenVINO, CoreML und PaddlePaddle exportiert werden können. Jedes Format ist darauf ausgelegt, gut mit bestimmten Hardwaretypen und Bereitstellungsumgebungen zu funktionieren.

ONNX wird beispielsweise aufgrund seiner Kompatibilität mit einer Vielzahl von Tools und Plattformen häufig in Quantisierungs-Workflows verwendet. TensorRT hingegen ist hochgradig für NVIDIA Geräte optimiert und unterstützt Inferenz mit geringer Präzision unter Verwendung von INT8, was es ideal für Hochgeschwindigkeits-Bereitstellungen auf Edge-GPUs macht.

Wirkungsvolle Anwendungsfälle der Ultralytics YOLO Modelloptimierung#

Da Computer Vision immer mehr in verschiedene reale Anwendungen Einzug hält, machen optimierte YOLO Modelle es möglich, Aufgaben wie Objekterkennung, Instanzsegmentierung und Objektverfolgung auf kleinerer, schnellerer Hardware auszuführen. Als Nächstes besprechen wir einige Anwendungsfälle, bei denen Pruning und Quantisierung diese Computer Vision Aufgaben effizienter und praktischer machen.

Intelligente Überwachung mit Ultralytics YOLO11#

Viele industrielle Räume sowie öffentliche Bereiche sind auf Echtzeitüberwachung angewiesen, um sicher und geschützt zu bleiben. Orte wie Transitstationen, Fertigungsstätten und große Außenanlagen benötigen Vision AI Systeme, die Personen oder Fahrzeuge schnell und genau erkennen können. Oft operieren diese Standorte mit begrenzter Konnektivität und Hardwarebeschränkungen, was den Einsatz großer Modelle erschwert.

In solchen Fällen ist ein optimiertes Vision-KI-Modell wie Ultralytics YOLO11 eine großartige Lösung. Seine kompakte Größe und schnelle Leistung machen es perfekt für den Betrieb auf stromsparenden Edge-Geräten wie eingebetteten Kameras oder intelligenten Sensoren. Diese Modelle können visuelle Daten direkt auf dem Gerät verarbeiten und ermöglichen so die Echtzeiterkennung von Sicherheitsverstößen, unbefugtem Zugriff oder abnormalen Aktivitäten, ohne auf ständigen Cloud-Zugriff angewiesen zu sein.

Abb. 4: Ultralytics YOLO11 kann zur Überwachung öffentlicher Plätze wie U-Bahnhöfen eingesetzt werden.

Mehr Sicherheit auf Baustellen mit Ultralytics YOLO11#

Construction sites sind schnelllebige und unvorhersehbare Umgebungen voller schwerer Maschinen, sich bewegender Arbeiter und ständiger Aktivität. Die Bedingungen können sich durch geänderte Zeitpläne, sich bewegende Ausrüstung oder sogar plötzliche Wetterumschwünge schnell ändern. In einer so dynamischen Umgebung kann die Arbeitssicherheit wie eine permanente Herausforderung wirken.

Echtzeit-Überwachung spielt eine entscheidende Rolle, aber herkömmliche Systeme sind oft auf Cloud-Zugriff oder teure Hardware angewiesen, was vor Ort möglicherweise nicht praktikabel ist. Hier können Modelle wie Ultralytics YOLO11 ihre Wirkung entfalten. YOLO11 kann so optimiert werden, dass es auf kleinen, effizienten Edge-Geräten läuft, die direkt vor Ort ohne Internetverbindung funktionieren.

Betrachte beispielsweise eine große Baustelle wie eine Autobahnerweiterung, die sich über mehrere Hektar erstreckt. In einer solchen Umgebung kann das manuelle Verfolgen jedes Fahrzeugs oder Geräts schwierig und zeitaufwändig sein. Eine Drohne, die mit einer Kamera und einem optimierten Ultralytics YOLO11-Modell ausgestattet ist, kann helfen, indem sie Fahrzeuge automatisch erkennt und verfolgt, den Verkehrsfluss überwacht und Sicherheitsprobleme wie unbefugten Zugriff oder unsicheres Fahrverhalten identifiziert.

Abb. 5: Analyse von Drohnenaufnahmen von einer Baustelle. (Quelle)

Vor- und Nachteile von Pruning und Quantisierung im Computer Vision Bereich#

Hier sind einige wichtige Vorteile, die Methoden zur Optimierung von Computer Vision Modellen wie Pruning und Quantisierung bieten:

• Kostengünstige Bereitstellung: Kleinere und effizientere Modelle können den Bedarf an teurer High-End-Hardware reduzieren, wodurch KI zugänglicher und skalierbarer für verschiedene Anwendungsfälle wird.
• Geringere Latenz: Durch die Vereinfachung der Modellarchitektur und die Reduzierung des Rechenaufwands können diese Techniken dazu beitragen, schnellere Reaktionszeiten in Echtzeitanwendungen zu erreichen.
• Energieeffizienz: Die Verringerung der Rechenlast senkt auch den Stromverbrauch, was besonders hilfreich für batteriebetriebene oder mobile Systeme ist.

Während Pruning und Quantisierung viele Vorteile bieten, bringen sie auch bestimmte Kompromisse mit sich, die Entwickler bei der Optimierung von Modellen berücksichtigen sollten. Hier sind einige Einschränkungen, die du im Hinterkopf behalten solltest:

• Accuracy-Kompromisse: Wenn Pruning zu aggressiv ist oder eine Quantisierung mit sehr geringer Bitrate verwendet wird, kann die Genauigkeit des Modells, gemessen an Metriken wie mAP, abnehmen.
• Hardwarebeschränkungen: Nicht alle Geräte unterstützen Formate mit geringerer Präzision wie INT8 gleich gut. Dies kann einschränken, wo und wie ein optimiertes Modell eingesetzt werden kann.
• Implementierungskomplexität: Das Erreichen guter Ergebnisse erfordert oft eine sorgfältige, modellspezifische Abstimmung. Entwickler müssen das Modell möglicherweise neu trainieren und umfassende Tests durchführen, um die Leistung bei gleichzeitiger Effizienzsteigerung aufrechtzuerhalten.

Wichtige Erkenntnisse#

Pruning und Quantisierung sind nützliche Techniken, die YOLO Modellen helfen, auf Edge-Geräten eine bessere Leistung zu erbringen. Sie reduzieren die Größe des Modells, senken den Rechenbedarf und beschleunigen Vorhersagen, alles ohne spürbaren Genauigkeitsverlust.

Diese Optimierungsmethoden geben Entwicklern zudem die Flexibilität, Modelle für verschiedene Hardwaretypen anzupassen, ohne sie komplett neu aufbauen zu müssen. Mit etwas Abstimmung und Testen wird es einfacher, Vision AI in realen Situationen anzuwenden.

Werde Teil unserer wachsenden community! Erkunde unser GitHub repository, um mehr über KI zu erfahren. Bist du bereit, deine Computer-Vision-Projekte zu starten? Sieh dir unsere licensing options an. Entdecke AI in agriculture und Vision-KI im Gesundheitswesen, indem du unsere Lösungsseiten besuchst!