Normalisierung

Die Normalisierung ist eine entscheidende Technik der Datenvorverarbeitung im maschinellen Lernen (ML) und der künstlichen Intelligenz (KI). Sie beinhaltet die Transformation der numerischen Merkmale eines Datensatzes auf eine gemeinsame Skala, ohne die Unterschiede in ihren Bereichen zu verzerren. Dieser Skalierungsprozess ist entscheidend für die Leistung und Stabilität vieler Algorithmen, insbesondere solcher, die empfindlich auf die Größe der Eingabewerte reagieren, wie z. B. gradientenbasierte Optimierungsmethoden, die beim Training von neuronalen Netzen (NN) verwendet werden. Indem sichergestellt wird, dass alle Merkmale proportional zum Lernprozess des Modells beitragen, trägt die Normalisierung dazu bei, das Training zu beschleunigen und die allgemeine Modellgenauigkeit zu verbessern.

Warum ist Normalisierung wichtig?

Ohne Normalisierung können Merkmale mit größeren Skalen den Lernprozess eines Modells dominieren. In einem Datensatz zur Vorhersage von Hauspreisen hätte beispielsweise ein Merkmal wie „Quadratmeterzahl“ (z. B. 1000-3000) einen viel größeren Bereich als „Anzahl der Schlafzimmer“ (z. B. 2-5). Diese Diskrepanz kann dazu führen, dass Algorithmen wie Gradientenabstieg länger brauchen, um zu konvergieren, oder in lokalen Optima stecken bleiben. Die Normalisierung mildert dies, indem alle Merkmale auf eine Ebene gebracht werden, was zu Folgendem führt:

• Schnellere Konvergenz: Modelle trainieren schneller, da der Optimierungsalgorithmus die Loss-Landschaft effizienter navigieren kann.
• Verbesserte Leistung: Sie ist unerlässlich für Algorithmen, die Distanzmaße verwenden, wie z. B. k-Nearest Neighbors (k-NN), oder solche, die auf Gradientenaktualisierungen basieren, wie z. B. Convolutional Neural Networks (CNNs).
• Reduziertes Risiko numerischer Instabilität: Es hilft, Probleme wie explodierende Gradienten während des Backpropagation-Prozesses zu verhindern.
• Konsistenter Feature-Beitrag: Es stellt sicher, dass kein einzelnes Feature das Modell unverhältnismäßig stark beeinflusst, nur aufgrund seiner Skala. Dies ist ein wichtiger Aspekt des korrekten Feature Engineering.

Normalisierung vs. Standardisierung vs. Batch-Normalisierung

Obwohl sie oft synonym verwendet werden, sind Normalisierung und Standardisierung unterschiedliche Techniken. Es ist auch wichtig, die Datennormalisierung von Batch-Normalisierung zu unterscheiden.

• Normalisierung (Min-Max-Skalierung): Diese Technik skaliert Daten auf einen festen Bereich, typischerweise. Sie ist nützlich, wenn die Verteilung der Daten nicht Gaußsch ist oder wenn der Algorithmus keine spezifische Verteilung annimmt. Sie ist ein üblicher Schritt in der Datenvorverarbeitung.
• Standardisierung (Z-Score-Normalisierung): Diese Technik skaliert Daten so, dass sie einen Mittelwert von 0 und eine Standardabweichung von 1 haben. Im Gegensatz zur Min-Max-Skalierung hat sie keinen begrenzenden Bereich. Die Standardisierung wird oft bevorzugt, wenn die Daten einer Gaußschen Verteilung folgen, und sie wird weniger von Ausreißern beeinflusst.
• Batch-Normalisierung: Dies ist kein Schritt der Datenvorverarbeitung, sondern eine Schicht, die innerhalb eines Deep-Learning-Modells verwendet wird. Sie normalisiert die Eingaben einer Schicht für jeden Mini-Batch während des Trainings. Dies hilft, die interne Kovariatenverschiebung zu bekämpfen, wodurch das Training tiefer Netzwerke stabilisiert und beschleunigt wird. Sie ist eine Standardkomponente in vielen modernen Architekturen, einschließlich Ultralytics YOLO-Modellen, und wird in Frameworks wie PyTorch und TensorFlow implementiert.

Anwendungen der Normalisierung

Die Normalisierung ist eine gängige Praxis in verschiedenen Bereichen, insbesondere in der Computer Vision (CV). Plattformen wie Ultralytics HUB rationalisieren Arbeitsabläufe, bei denen eine solche Vorverarbeitung für das Training von leistungsstarken Modellen unerlässlich ist.

• Vorverarbeitung von Bilddaten: In der Computer Vision bestehen Bilder aus Pixelwerten, die typischerweise zwischen 0 und 255 liegen. Bevor ein Bild in ein Modell für Aufgaben wie Bildklassifizierung oder Objekterkennung eingespeist wird, werden diese Pixelwerte fast immer normalisiert. Die Skalierung auf einen Bereich von 0 bis 1 oder [-1, 1] gewährleistet die Konsistenz über alle Bilder in einem Datensatz hinweg, was für Modelle wie YOLO11 entscheidend ist, um effektiv Merkmale zu erlernen.
• Medizinische Bildanalyse: In Bereichen wie der KI im Gesundheitswesen stammen medizinische Scans wie MRTs oder CTs häufig von verschiedenen Geräten mit unterschiedlichen Einstellungen, was zu unterschiedlichen Intensitätsskalen führt. Bei der Verwendung von KI zur Tumorerfassung ist die Normalisierung dieser Scans ein entscheidender Schritt. Sie stellt sicher, dass die Analyse des Modells über verschiedene Patienten und Geräte hinweg vergleichbar ist, was zu zuverlässigeren und genaueren diagnostischen Vorhersagen führt. Dies ist ein grundlegendes Konzept in der medizinischen Bildanalyse.
• Predictive Modeling im Finanzwesen: Beim Aufbau von Modellen zur Vorhersage von Aktienkursen oder zur Beurteilung des Kreditrisikos enthalten Datensätze oft Merkmale mit sehr unterschiedlichen Skalen, wie z. B. Handelsvolumen (in Millionen) und Kurs-Gewinn-Verhältnis (z. B. 10-50). Die Normalisierung dieser Merkmale ist für distanzbasierte Algorithmen unerlässlich und stellt sicher, dass gradientenbasiertes Lernen nicht durch Merkmale mit größeren Beträgen verzerrt wird, eine gängige Praxis im Computer Vision im Finanzwesen.