Descente de gradient stochastique (SGD)

La descente de gradient stochastique (SGD) est un algorithme d’optimisation fondamental et largement utilisé dans l’apprentissage automatique (AA). Il s’agit d’une méthode itérative utilisée pour entraîner des modèles en ajustant leurs paramètres internes, tels que les poids et les biais, afin de minimiser une fonction de perte. Contrairement à la descente de gradient traditionnelle, qui traite l’ensemble du jeu de données pour chaque mise à jour, la SGD met à jour les paramètres en utilisant un seul échantillon d’entraînement sélectionné de manière aléatoire. Cette approche « stochastique » accélère et rend le processus d’entraînement beaucoup plus évolutif, ce qui est particulièrement important lorsque l’on travaille avec des mégadonnées. Les mises à jour bruitées peuvent également aider le modèle à échapper aux minimums locaux médiocres dans le paysage d’erreur et potentiellement à trouver une meilleure solution globale.

Fonctionnement de la descente de gradient stochastique

L'idée centrale de SGD est d'approximer le vrai gradient de la fonction de perte, qui est calculé sur l'ensemble du jeu de données, en utilisant le gradient de la perte pour un seul échantillon. Bien que ce gradient d'échantillon unique soit une estimation bruitée, il est peu coûteux en termes de calcul et, en moyenne, pointe dans la bonne direction. Le processus consiste à répéter un cycle simple en deux étapes pour chaque échantillon d'entraînement :

1. Calculer le gradient : Calculer le gradient de la fonction de perte par rapport aux paramètres du modèle pour un seul exemple d'entraînement.
2. Mettre à jour les paramètres : Ajustez les paramètres dans la direction opposée du gradient, mis à l'échelle par un taux d'apprentissage. Cela déplace le modèle vers un état avec une erreur plus faible pour cet échantillon spécifique.

Ce cycle est répété de nombreux passages sur l'ensemble du jeu de données, appelés époques, améliorant progressivement les performances du modèle. L'efficacité de la SGD en a fait une pierre angulaire de l'apprentissage profond (DL) moderne, et elle est prise en charge par tous les principaux frameworks comme PyTorch et TensorFlow.

SGD contre d'autres optimiseurs

SGD est l'une des nombreuses méthodes d'optimisation basées sur le gradient, chacune ayant ses propres compromis.

• Descente de gradient par lot : Cette méthode calcule le gradient en utilisant l'ensemble des données d'entraînement. Elle fournit un chemin stable et direct vers le minimum, mais elle est extrêmement lente et gourmande en mémoire pour les grands ensembles de données, ce qui la rend impraticable pour la plupart des applications modernes.
• Descente de gradient par mini-lots : Il s'agit d'un compromis entre la descente de gradient par lots et la descente de gradient stochastique. Elle met à jour les paramètres en utilisant un petit sous-ensemble aléatoire (un « mini-lot ») des données. Elle équilibre la stabilité de la descente de gradient par lots avec l'efficacité de la descente de gradient stochastique et c'est l'approche la plus couramment utilisée dans la pratique.
• Optimiseur Adam : Adam est un algorithme d'optimisation adaptatif qui maintient un taux d'apprentissage distinct pour chaque paramètre et l'ajuste au fur et à mesure de l'apprentissage. Il converge souvent plus rapidement que SGD, mais SGD peut parfois trouver un meilleur minimum et offrir une meilleure généralisation, aidant à prévenir le surapprentissage.

Applications concrètes

SGD et ses variantes sont essentiels pour l'entraînement d'un large éventail de modèles d'IA dans différents domaines.

• Entraînement de la Détection d'Objets en Temps Réel : Pour les modèles comme Ultralytics YOLO conçus pour l'inférence en temps réel, l'entraînement doit être efficace. SGD permet aux développeurs d'entraîner ces modèles sur de grands ensembles de données d'images comme COCO ou des ensembles de données personnalisés gérés via des plateformes comme Ultralytics HUB. Les mises à jour rapides permettent une convergence plus rapide par rapport à Batch GD, ce qui est crucial pour itérer rapidement pendant le développement du modèle et l'ajustement des hyperparamètres. Cette efficacité prend en charge les applications dans des domaines comme les véhicules autonomes et la robotique.
• Entraînement des grands modèles de langage (LLM) : L'entraînement des modèles pour le traitement du langage naturel (NLP) implique souvent des ensembles de données textuelles massifs. SGD et ses variantes sont essentiels pour itérer efficacement à travers ces données, permettant à des modèles tels que GPT-4 ou ceux trouvés sur Hugging Face d'apprendre la grammaire, le contexte et la sémantique. La nature stochastique aide à échapper aux mauvais minima locaux dans le paysage de perte complexe, un défi courant dans l'entraînement de grands réseaux neuronaux. Ce processus est fondamental pour des tâches comme la traduction automatique et l'analyse des sentiments.