Normalisierung

Warum Normalisierung wichtig ist

Datensätze aus der realen Welt enthalten oft Merkmale mit sehr unterschiedlichen Skalen und Einheiten. In einem Datensatz zur Vorhersage der Kundenabwanderung kann der "Kontostand" beispielsweise von Hunderten bis zu Millionen reichen, während die "Anzahl der Produkte" von 1 bis 10 reichen kann. Ohne Normalisierung könnten ML-Algorithmen, die Abstände berechnen oder Gradienten verwenden, wie z. B. Support Vector Machines (SVM) oder neuronale Netze (NN), das Merkmal mit dem größeren Bereich allein aufgrund seiner Größe fälschlicherweise als wichtiger einstufen. Die Normalisierung gleicht das Spielfeld aus und stellt sicher, dass der Beitrag eines jeden Merkmals auf seiner Vorhersagekraft und nicht auf seiner Größe basiert. Dies führt zu einer schnelleren Konvergenz während des Trainings (was sich in einer geringeren Anzahl von Epochen zeigt), einer verbesserten Modellgenauigkeit und stabileren, robusteren Modellen. Diese Stabilität ist vorteilhaft, wenn Modelle wie Ultralytics YOLO für Aufgaben wie Objekterkennung oder Instanzsegmentierung trainiert werden, wodurch Metriken wie die mittlere durchschnittliche Präzision (mAP) verbessert werden können.

Übliche Normalisierungstechniken

Für die Neuskalierung von Daten gibt es mehrere Methoden, die jeweils für unterschiedliche Situationen geeignet sind:

• Min-Max-Skalierung: Skaliert Features auf einen festen Bereich, normalerweise [0, 1]. Sie wird berechnet als: (Wert - Min) / (Max - Min). Bei dieser Methode bleibt die Form der ursprünglichen Verteilung erhalten, sie ist jedoch empfindlich gegenüber Ausreißern.
• Z-Score-Standardisierung (Standard-Skalierung): Skaliert die Merkmale so, dass sie einen Mittelwert von 0 und eine Standardabweichung von 1 haben. Sie wird berechnet als: (Wert - Mittelwert) / Standardabweichung. Anders als bei der Min-Max-Skalierung sind die Werte nicht an einen bestimmten Bereich gebunden, was für Algorithmen, die Eingaben innerhalb eines begrenzten Intervalls benötigen, ein Nachteil sein kann, aber Ausreißer werden besser behandelt. Weitere Informationen zu diesen und anderen Methoden finden Sie in der Scikit-learn Preprocessing-Dokumentation.
• Robuste Skalierung: Verwendet Statistiken, die robust gegenüber Ausreißern sind, wie z. B. den Interquartilsbereich (IQR), anstelle von Min/Max oder Mittelwert/Std. Abweichung. Dies ist besonders nützlich, wenn der Datensatz signifikante Ausreißer enthält. Erfahren Sie mehr über Robust Scaling.

Die Wahl zwischen diesen Techniken hängt oft vom spezifischen Datensatz (wie in Ultralytics Datasets) und den Anforderungen des verwendeten ML-Algorithmus ab. Leitfäden zur Vorverarbeitung von annotierten Daten umfassen häufig Normalisierungsschritte, die für bestimmte Aufgaben relevant sind.

Normalisierung vs. Standardisierung vs. Batch-Normalisierung

Es ist wichtig, die Normalisierung von verwandten Konzepten zu unterscheiden:

• Standardisierung: Diese Technik, die häufig synonym mit der Z-Score-Standardisierung verwendet wird, transformiert Daten so, dass sie einen Mittelwert von Null und eine Einheitsvarianz aufweisen. Während bei der Normalisierung die Daten in der Regel auf einen festen Bereich (z. B. 0 bis 1) skaliert werden, zentriert die Standardisierung die Daten um den Mittelwert herum und skaliert sie auf der Grundlage der Standardabweichung, ohne sie unbedingt auf einen bestimmten Bereich zu beschränken.
• Batch-Normalisierung: Hierbei handelt es sich um eine Technik, die in einem neuronalen Netz während des Trainings angewandt wird, insbesondere auf die Eingänge von Schichten oder Aktivierungen. Sie normalisiert die Ausgänge einer vorhergehenden Aktivierungsschicht für jeden Mini-Batch und stabilisiert und beschleunigt den Trainingsprozess, indem sie das Problem der internen Kovariatenverschiebung reduziert. Im Gegensatz zur Merkmalsnormalisierung (Min-Max oder Z-Score), die ein Vorverarbeitungsschritt ist, der auf den anfänglichen Datensatz angewendet wird, ist die Batch-Normalisierung Teil der Netzarchitektur selbst und passt sich während des Modelltrainings dynamisch an.

Anwendungen der Normalisierung

Die Normalisierung ist ein allgegenwärtiger Schritt bei der Vorbereitung von Daten für verschiedene Aufgaben der Künstlichen Intelligenz (KI) und ML:

• Computer Vision (CV): Pixelwerte in Bildern (in der Regel im Bereich von 0 bis 255) werden häufig auf [0, 1] oder [-1, 1] normalisiert, bevor sie in Faltungsneuronale Netze (CNN) eingespeist werden. Dies gewährleistet die Konsistenz über alle Bilder hinweg und hilft dem Netz, Merkmale für Aufgaben wie Bildklassifizierung, Objekterkennung mit Modellen wie YOLO11 und Bildsegmentierung effektiver zu erlernen. Viele Standard-CV-Datensätze profitieren von diesem Vorverarbeitungsschritt.
• Medizinische Bildanalyse: Bei Anwendungen wie der Tumorerkennung mit YOLO-Modellen ist die Normalisierung der Intensitätswerte von MRT- oder CT-Scans entscheidend. Unterschiedliche Scangeräte oder Einstellungen können Bilder mit unterschiedlichen Intensitätsskalen erzeugen. Die Normalisierung stellt sicher, dass die Analyse über verschiedene Scans und Patienten hinweg konsistent und vergleichbar ist, was zu zuverlässigeren Diagnosemodellen führt. Dies ist in Bereichen wie KI im Gesundheitswesen von entscheidender Bedeutung.
• Prädiktive Modellierung: Bei der Erstellung von Modellen zur Vorhersage von Ergebnissen auf der Grundlage verschiedener Merkmale (z. B. Vorhersage von Hauspreisen auf der Grundlage von Größe, Anzahl der Zimmer und Standortkoordinaten) stellt die Normalisierung sicher, dass Merkmale mit größeren numerischen Bereichen (wie z. B. die Quadratmeterzahl) nicht die abstandsbasierten Berechnungen (z. B. bei k-Nächste Nachbarn) oder Gradientenaktualisierungen während des Trainings dominieren. Dies ist in der Finanz- und Einzelhandelsanalytik üblich.
• Verarbeitung natürlicher Sprache (NLP): Während die Normalisierung für Rohtext weniger üblich ist, kann sie auf abgeleitete numerische Merkmale wie Worthäufigkeiten oder TF-IDF-Scores angewendet werden, insbesondere wenn sie mit anderen Merkmalstypen in einem größeren Modell kombiniert werden.

Zusammenfassend lässt sich sagen, dass die Normalisierung ein wichtiger Vorverarbeitungsschritt ist, der die Datenmerkmale auf einen konsistenten Bereich skaliert und so den Trainingsprozess, die Stabilität und die Leistung vieler Modelle für maschinelles Lernen verbessert, einschließlich derjenigen, die mit Tools wie Ultralytics HUB entwickelt und trainiert wurden. Sie sorgt für einen fairen Beitrag der Merkmale und ist für Algorithmen, die auf die Skalierung der Eingaben empfindlich reagieren, unerlässlich und trägt zu robusteren und genaueren KI-Lösungen bei.