Descente en gradient

La descente de gradient est un algorithme d'optimisation fondamental au cœur de la plupart des modèles d'apprentissage automatique (ML) et d'apprentissage profond. Son objectif principal est de minimiser l'erreur d'un modèle en ajustant itérativement ses paramètres internes. Imaginez que vous vous trouviez sur une montagne brumeuse et que vous essayiez de trouver le point le plus bas. Vous regarderiez autour de vos pieds pour voir quelle direction descend le plus fortement et feriez un pas dans cette direction. En répétant ce processus, vous finirez par atteindre une vallée. Dans l'apprentissage automatique, la "montagne" est la fonction de perte, la "direction" est le gradient négatif de la fonction de perte et la "taille du pas" est le taux d'apprentissage.

Comment fonctionne la descente de gradient

Le processus de formation d'un réseau neuronal consiste à trouver l'ensemble optimal de poids du modèle qui entraîne l'erreur ou la perte la plus faible possible. La descente de gradient automatise cette recherche. Le processus commence par le calcul du gradient - une mesure de l'évolution de la perte en fonction de chaque poids. Ce calcul est généralement effectué à l'aide de l'algorithme de rétropropagation. Les poids sont ensuite mis à jour en faisant un petit pas dans la direction opposée du gradient, se déplaçant ainsi en "descente" sur la surface de perte. Ce processus itératif se poursuit pendant de nombreuses époques jusqu'à ce que les performances du modèle convergent et que la perte soit minimisée. La taille de chaque étape est un facteur critique déterminé par le taux d'apprentissage, un paramètre clé dans le réglage des hyperparamètres. Une vue d'ensemble détaillée de ce processus peut être trouvée dans des ressources telles que les notes de cours Stanford CS231n.

Types de descente de gradient

Il existe trois variantes principales de la descente de gradient, chacune différant par la quantité de données utilisées pour calculer le gradient pour chaque mise à jour de poids :

• Descente de gradient par lots (BGD) : Calcule le gradient en utilisant l'ensemble des données d'apprentissage. Cette approche permet d'obtenir un gradient stable et précis, mais elle est très coûteuse en termes de calcul et de mémoire, ce qui la rend impraticable pour les grands ensembles de données comme ImageNet.
• Descente stochastique de gradient (SGD) : Met à jour les poids après avoir traité un seul échantillon de données choisi au hasard. Cette méthode est beaucoup plus rapide et moins gourmande en mémoire que la descente de gradient stochastique, mais les mises à jour sont bruitées, ce qui entraîne une trajectoire de convergence plus irrégulière. Ce caractère aléatoire peut parfois aider le modèle à échapper à de mauvais minima locaux.
• Descente de gradient par mini-lots : Elle établit un équilibre en calculant le gradient sur un petit sous-ensemble aléatoire (un "mini-batch") des données, généralement entre 32 et 256 échantillons. Il s'agit de l'approche la plus couramment utilisée dans l'apprentissage profond moderne, car elle combine l'efficacité de la SGD et la stabilité de la BGD. Des frameworks comme PyTorch et TensorFlow utilisent cette méthode par défaut dans leurs optimiseurs. Pour une comparaison approfondie, voir cette vue d'ensemble des algorithmes de descente de gradient.

Descente de gradient et concepts connexes

Il est important de distinguer la descente en gradient de plusieurs termes apparentés :

• Algorithmes d'optimisation : La descente de gradient est le concept fondamental d'une famille d'algorithmes d'optimisation. Les optimiseurs plus avancés, tels que l'optimiseur Adam ou RMSprop, sont des variations adaptatives qui ajustent le taux d'apprentissage pour chaque paramètre individuellement, ce qui conduit souvent à une convergence plus rapide. Vous pouvez trouver l'article original d'Adam sur arXiv.
• Rétropropagation : La rétropropagation et la descente de gradient sont deux processus distincts mais liés. La rétropropagation est l'algorithme qui calcule efficacement les gradients de la fonction de perte par rapport aux poids du réseau. La descente de gradient est l'algorithme qui utilise ensuite ces gradients pour mettre à jour les poids.
• Fonction de perte : La fonction de perte définit l'objectif que la descente en gradient cherche à minimiser. Le choix de la fonction de perte (par exemple, l'entropie croisée pour la classification d'images) crée le paysage d'erreurs spécifique dans lequel l'optimiseur navigue.

Applications dans le monde réel

La descente de gradient est le moteur qui permet d'entraîner d'innombrables modèles d'intelligence artificielle.

1. Entraînement des modèles de détection d'objets : Lorsqu'un modèle YOLO d'Ultralytics est entraîné pour la détection d'objets sur un ensemble de données à grande échelle comme COCO, la descente de gradient par mini-lots est utilisée à chaque itération. Le modèle prédit les boîtes englobantes, une perte est calculée sur la base de l'erreur, et la descente de gradient ajuste des millions de poids dans la colonne vertébrale et la tête du modèle afin d'améliorer la précision. L'ensemble de ce flux de travail peut être géré et mis à l'échelle à l'aide de plateformes telles que Ultralytics HUB.
2. Formation de modèles linguistiques : Dans le traitement du langage naturel (NLP), des modèles tels que BERT sont formés pour des tâches telles que l'analyse des sentiments. La descente de gradient minimise une fonction de perte qui mesure la différence entre le sentiment prédit par le modèle et l'étiquette réelle, ce qui permet au modèle d'apprendre les nuances du langage humain à partir de vastes corpus de textes. Le groupe NLP de Stanford mène des recherches approfondies dans ce domaine.

Défis et considérations

Bien que puissante, la descente de gradient n'est pas sans poser de problèmes. L'algorithme peut rester bloqué dans des minima locaux, c'est-à-dire des vallées qui ne sont pas le point le plus bas de la surface de perte. Dans les réseaux très profonds, il peut également souffrir des problèmes de gradient disparaissant ou de gradient explosif, où le gradient devient trop petit ou trop grand pour mettre à jour efficacement les poids. Une sélection minutieuse du taux d'apprentissage, le choix d'un optimiseur robuste et des techniques telles que la normalisation des lots sont essentiels pour une formation réussie, comme l'explique en détail notre guide de conseils sur la formation des modèles.