Normalisation

La normalisation est une technique cruciale de prétraitement des données dans l'apprentissage automatique (ML) et l'intelligence artificielle (IA). Elle consiste à transformer les caractéristiques numériques d'un ensemble de données à une échelle commune sans fausser les différences dans leurs plages. Ce processus de mise à l'échelle est essentiel pour la performance et la stabilité de nombreux algorithmes, en particulier ceux qui sont sensibles à l'amplitude des valeurs d'entrée, tels que les méthodes d'optimisation basées sur le gradient utilisées dans l'entraînement des réseaux neuronaux (NN). En veillant à ce que toutes les caractéristiques contribuent proportionnellement au processus d'apprentissage du modèle, la normalisation contribue à accélérer l'entraînement et à améliorer la précision globale du modèle.

Pourquoi la normalisation est-elle importante ?

Sans normalisation, les caractéristiques avec des échelles plus grandes peuvent dominer le processus d'apprentissage d'un modèle. Par exemple, dans un ensemble de données pour la prédiction des prix des maisons, une caractéristique comme la « superficie en pieds carrés » (par exemple, 1000-3000) aurait une plage beaucoup plus grande que le « nombre de chambres » (par exemple, 2-5). Cet écart peut entraîner une convergence plus lente des algorithmes comme la descente de gradient ou les bloquer dans des optima locaux. La normalisation atténue ce problème en mettant toutes les caractéristiques sur un pied d'égalité, ce qui conduit à :

• Convergence plus rapide : Les modèles s'entraînent plus rapidement car l'algorithme d'optimisation peut naviguer plus efficacement dans le paysage de perte.
• Amélioration des performances : Elle est essentielle pour les algorithmes qui utilisent des mesures de distance, tels que les k-plus proches voisins (k-NN), ou ceux qui reposent sur des mises à jour de gradient, comme les réseaux neuronaux convolutionnels (CNN).
• Risque Réduit d'Instabilité Numérique : Il aide à prévenir les problèmes tels que l'explosion des gradients pendant le processus de rétropropagation.
• Contribution cohérente des caractéristiques : Elle garantit qu'aucune caractéristique unique n'influence de manière disproportionnée le modèle simplement en raison de son échelle. Il s'agit d'un aspect clé d'une ingénierie des caractéristiques appropriée.

Normalisation vs Standardisation vs Normalisation par lots

Bien que souvent utilisés de manière interchangeable, la normalisation et la standardisation sont des techniques distinctes. Il est également important de distinguer la normalisation des données de la Normalisation par lots.

• Normalisation (mise à l’échelle min-max) : Cette technique met les données à l’échelle dans une plage fixe, généralement. Elle est utile lorsque la distribution des données n’est pas gaussienne ou lorsque l’algorithme ne suppose aucune distribution spécifique. Il s’agit d’une étape courante de la préparation des données.
• Standardisation (Normalisation Z-score) : Cette technique redimensionne les données pour avoir une moyenne de 0 et un écart type de 1. Contrairement à la mise à l'échelle min-max, elle n'a pas de plage de délimitation. La standardisation est souvent préférée lorsque les données suivent une distribution gaussienne, et elle est moins affectée par les valeurs aberrantes.
• Normalisation par lot : Il ne s'agit pas d'une étape de prétraitement des données, mais d'une couche utilisée dans un modèle de deep learning. Elle normalise les entrées d'une couche pour chaque mini-lot pendant l'entraînement. Cela aide à lutter contre le décalage interne des covariables, en stabilisant et en accélérant l'entraînement des réseaux profonds. C'est un composant standard dans de nombreuses architectures modernes, y compris les modèles Ultralytics YOLO, et est implémenté dans des frameworks comme PyTorch et TensorFlow.

Applications de la normalisation

La normalisation est une pratique courante dans divers domaines, en particulier dans la vision par ordinateur (CV). Des plateformes comme Ultralytics HUB rationalisent les flux de travail où un tel prétraitement est essentiel pour l'entraînement de modèles à haute performance.

• Prétraitement des données d'image : En vision par ordinateur, les images sont composées de valeurs de pixels, qui varient généralement de 0 à 255. Avant d'introduire une image dans un modèle pour des tâches telles que la classification d'images ou la détection d'objets, ces valeurs de pixels sont presque toujours normalisées. La mise à l'échelle dans une plage de [0, 1] ou [-1, 1] assure la cohérence entre toutes les images d'un ensemble de données, ce qui est essentiel pour que les modèles comme YOLO11 apprennent efficacement les caractéristiques.
• Analyse d’images médicales : Dans des domaines comme l’IA dans le domaine de la santé, les images médicales telles que les IRM ou les tomodensitométries proviennent souvent de différentes machines avec des paramètres variables, ce qui entraîne différentes échelles d’intensité. Lors de l’utilisation de l’IA pour la détection de tumeurs, la normalisation de ces images est une étape essentielle. Elle garantit que l’analyse du modèle est comparable entre différents patients et équipements, ce qui conduit à des prédictions diagnostiques plus fiables et précises. Il s’agit d’un concept fondamental de l’analyse d’images médicales.
• Modélisation prédictive en finance : Lors de la construction de modèles pour prédire les cours des actions ou évaluer le risque de crédit, les ensembles de données comprennent souvent des caractéristiques avec des échelles très différentes, telles que le volume des transactions (en millions) et le ratio cours/bénéfice (par exemple, 10-50). La normalisation de ces caractéristiques est essentielle pour les algorithmes basés sur la distance et garantit que l'apprentissage basé sur le gradient n'est pas faussé par les caractéristiques avec des magnitudes plus importantes, une pratique courante dans la vision par ordinateur en finance.