Normalisation

La normalisation est une technique cruciale de prétraitement des données dans l'apprentissage automatique (ML) et l'intelligence artificielle (IA). Elle consiste à transformer les caractéristiques numériques d'un ensemble de données en une échelle commune sans déformer les différences dans leurs plages. Ce processus de mise à l'échelle est essentiel pour la performance et la stabilité de nombreux algorithmes, en particulier ceux qui sont sensibles à l'ampleur des valeurs d'entrée, comme les méthodes d'optimisation basées sur le gradient utilisées dans l'apprentissage des réseaux neuronaux (NN). En garantissant que toutes les caractéristiques contribuent proportionnellement au processus d'apprentissage du modèle, la normalisation permet d'accélérer la formation et d'améliorer la précision globale du modèle.

Pourquoi la normalisation est-elle importante ?

Sans normalisation, les caractéristiques à grande échelle peuvent dominer le processus d'apprentissage d'un modèle. Par exemple, dans un ensemble de données destiné à prédire les prix des logements, une caractéristique telle que la "superficie en pieds carrés" (par exemple, 1000-3000) aurait une plage beaucoup plus large que le "nombre de chambres à coucher" (par exemple, 2-5). Cet écart peut entraîner des algorithmes tels que la descente de gradient à mettre plus de temps à converger ou à rester bloqués dans des optima locaux. La normalisation atténue ce problème en mettant toutes les caractéristiques sur un pied d'égalité, ce qui permet d'obtenir les résultats suivants :

• Convergence plus rapide : Les modèles se forment plus rapidement car l'algorithme d'optimisation peut naviguer plus efficacement dans le paysage des pertes.
• Amélioration des performances : Elle est essentielle pour les algorithmes qui utilisent des mesures de distance, tels que les k-voisins les plus proches (k-NN), ou ceux qui reposent sur des mises à jour de gradient, tels que les réseaux neuronaux convolutifs (CNN).
• Réduction du risque d'instabilité numérique : Il permet d'éviter des problèmes tels que l'explosion des gradients au cours du processus de rétropropagation.
• Contribution cohérente des caractéristiques : Elle garantit qu'aucun élément n'influence le modèle de manière disproportionnée, simplement en raison de son échelle. Il s'agit d'un aspect essentiel de l'ingénierie des caractéristiques.

Normalisation vs. standardisation vs. normalisation par lots

Bien qu'elles soient souvent utilisées de manière interchangeable, la normalisation et la standardisation sont des techniques distinctes. Il est également important de distinguer la normalisation des données de la normalisation par lots.

• Normalisation (échelle Min-Max) : Cette technique permet de ramener les données à un intervalle fixe, en général. Elle est utile lorsque la distribution des données n'est pas gaussienne ou lorsque l'algorithme ne suppose pas de distribution spécifique. Il s'agit d'une étape courante du prétraitement des données.
• Normalisation (normalisation du score Z) : Cette technique permet de redimensionner les données pour obtenir une moyenne de 0 et un écart-type de 1. Contrairement à l'échelle min-max, elle n'a pas d'intervalle limite. La normalisation est souvent préférée lorsque les données suivent une distribution gaussienne, et elle est moins affectée par les valeurs aberrantes.
• Normalisation des lots : Il ne s'agit pas d'une étape de prétraitement des données, mais d'une couche utilisée dans un modèle d'apprentissage profond. Elle normalise les entrées d'une couche pour chaque mini-lot pendant la formation. Cela permet de lutter contre le décalage des covariables internes, de stabiliser et d'accélérer la formation des réseaux profonds. Il s'agit d'un composant standard dans de nombreuses architectures modernes, y compris les modèles YOLO d'Ultralytics, et il est mis en œuvre dans des cadres tels que PyTorch et TensorFlow.

Applications de la normalisation

La normalisation est une pratique courante dans de nombreux domaines, en particulier dans celui de la vision artificielle (CV). Des plateformes comme Ultralytics HUB rationalisent les flux de travail où ce prétraitement est essentiel pour former des modèles performants.

• Prétraitement des données d'image : Dans le domaine de la vision par ordinateur, les images sont composées de valeurs de pixels, qui vont généralement de 0 à 255. Avant d'introduire une image dans un modèle pour des tâches telles que la classification d'images ou la détection d'objets, ces valeurs de pixels sont presque toujours normalisées. Leur mise à l'échelle sur une plage [-1, 1] garantit la cohérence entre toutes les images d'un ensemble de données, ce qui est essentiel pour que des modèles tels que YOLO11 puissent apprendre des caractéristiques de manière efficace.
• Analyse d'images médicales : Dans des domaines tels que l'IA dans les soins de santé, les scans médicaux tels que les IRM ou les CT proviennent souvent de différentes machines avec des réglages variables, ce qui se traduit par des échelles d'intensité différentes. Lors de l'utilisation de l'IA pour la détection des tumeurs, la normalisation de ces scans est une étape essentielle. Elle garantit que l'analyse du modèle est comparable pour différents patients et équipements, ce qui permet d'obtenir des prédictions diagnostiques plus fiables et plus précises. Il s'agit d'un concept fondamental dans l'analyse des images médicales.
• Modélisation prédictive en finance : Lors de l'élaboration de modèles visant à prédire le cours des actions ou à évaluer le risque de crédit, les ensembles de données comprennent souvent des caractéristiques d'échelles très différentes, telles que le volume des transactions (en millions) et le ratio cours/bénéfice (par exemple, 10-50). La normalisation de ces caractéristiques est essentielle pour les algorithmes basés sur la distance et garantit que l'apprentissage basé sur le gradient n'est pas faussé par des caractéristiques de plus grande ampleur, une pratique courante en vision par ordinateur dans le domaine de la finance.