Fonction de perte

Fonctionnement des fonctions de perte

Au cours de chaque itération de formation, le modèle traite un lot de données de formation et fait des prédictions. La fonction de perte compare ensuite ces prédictions aux étiquettes réelles. Une valeur de perte élevée indique un écart plus important et un besoin de correction plus grand, tandis qu'une valeur de perte plus faible signifie que les prédictions du modèle sont plus proches des valeurs réelles.

Cette valeur de perte est cruciale car elle fournit le signal nécessaire à l'apprentissage du modèle. Ce signal est utilisé par un algorithme d'optimisation, tel que la descente stochastique de gradient (SGD), pour ajuster les paramètres internes du modèle, ou les poids du modèle. Le processus de rétropropagation calcule le gradient de la fonction de perte par rapport à ces poids, indiquant la direction dans laquelle les poids doivent être ajustés pour réduire la perte. Ce processus itératif de calcul de la perte et de mise à jour des poids permet au modèle de converger progressivement vers un état où il peut faire des prédictions très précises.

Types courants de fonctions de perte

Le choix de la fonction de perte dépend fortement de la tâche spécifique que le modèle est censé résoudre. Des problèmes différents requièrent des moyens différents de mesurer l'erreur. Parmi les types les plus courants, on peut citer

• Erreur quadratique moyenne (EQM) : Une fonction de perte populaire pour les tâches de régression, où l'objectif est de prédire une valeur numérique continue. Elle calcule la moyenne des carrés des différences entre les valeurs prédites et réelles.
• Perte d'entropie croisée : largement utilisée pour les tâches de classification d'images, elle mesure les performances d'un modèle de classification dont le résultat est une valeur de probabilité comprise entre 0 et 1. Elle mesure les performances d'un modèle de classification dont le résultat est une valeur de probabilité comprise entre 0 et 1. Elle est efficace lors de la formation de modèles permettant de distinguer plusieurs classes, comme la classification d'images dans l'ensemble de données ImageNet.
• Perte de l'intersection sur l'union (IoU) : les variantes de l'IoU sont essentielles pour les tâches de détection d'objets. Ces fonctions de perte, telles que GIoU, DIoU et CIoU, mesurent l'écart entre la boîte de délimitation prédite et la boîte de vérité au sol. Elles font partie intégrante de la formation de détecteurs d'objets précis comme Ultralytics YOLO11.
• Dice Loss : couramment utilisé dans la segmentation d'images, en particulier dans l'analyse d'images médicales, pour mesurer le chevauchement entre les masques de segmentation prédits et les masques de segmentation réels. Elle est particulièrement utile pour gérer le déséquilibre des classes.

Applications dans le monde réel

Les fonctions de perte sont au cœur de la formation de pratiquement tous les modèles d'apprentissage profond.

1. Véhicules autonomes : Dans le cadre du développement des véhicules autonomes, les modèles de détection d'objets sont entraînés à identifier les piétons, les autres voitures et les panneaux de signalisation. Pendant l'entraînement, une fonction de perte combine plusieurs composantes : une partie calcule l'erreur de classification de chaque objet (par exemple, voiture contre piéton), tandis qu'une autre partie, souvent une perte basée sur l'unité de mesure, calcule l'erreur de localisation de la boîte englobante de l'objet. La minimisation de cette perte combinée permet de créer des modèles robustes pour une navigation sûre, un élément clé de l'IA dans les solutions automobiles.
2. Diagnostic médical : dans le domaine de l'IA dans les soins de santé, des modèles comme U-Net sont formés pour la segmentation sémantique afin d'identifier les tumeurs dans les scanners médicaux. Une fonction de perte telle que la perte de Dice ou une combinaison de l'entropie croisée et de la perte de Dice est utilisée pour comparer le masque de tumeur prédit par le modèle avec le masque annoté par un radiologue. En minimisant cette perte sur un ensemble d'images médicales, le modèle apprend à délimiter avec précision les régions pathologiques, ce qui permet d'établir des diagnostics plus rapides et plus précis.

Relations avec d'autres concepts clés

Il est important de différencier les fonctions de perte des autres concepts liés à la ML.

• Fonction de perte ou mesure d'évaluation : Il s'agit d'une distinction cruciale. Les fonctions de perte sont utilisées pendant la formation pour guider le processus d'optimisation. Elles doivent être différentiables pour permettre un apprentissage basé sur le gradient. En revanche, les mesures d'évaluation telles que l'exactitude, la précision, le rappel et la précision moyenne (mAP) sont utilisées après la formation (sur des données de validation ou des données de test) pour évaluer les performances d'un modèle dans le monde réel. Bien qu'une perte plus faible soit généralement corrélée à de meilleurs résultats, ces mesures ont des objectifs différents. Pour en savoir plus sur les mesures de performance, consultez notre guide.
• Fonction de perte et algorithme d'optimisation : La fonction de perte définit l'objectif, c'est-à-dire ce qui doit être minimisé. L'algorithme d'optimisation, tel que l'optimiseur d'Adam, définit le mécanisme - comment minimiser la perte en mettant à jour les poids du modèle sur la base des gradients calculés et du taux d'apprentissage.
• Surajustement et sous-ajustement : Le suivi de la perte sur les ensembles de formation et de validation est essentiel pour diagnostiquer ces problèmes courants. Il y a probablement surajustement si la perte d'entraînement continue à diminuer alors que la perte de validation commence à augmenter. Un sous-ajustement est indiqué par des valeurs de perte élevées sur les deux ensembles. Ces aspects sont abordés dans des guides tels que nos Conseils pour l'entraînement des modèles.

La compréhension des fonctions de perte est essentielle pour toute personne impliquée dans la construction et l'entraînement de modèles d'IA. Des plateformes comme Ultralytics HUB éliminent une grande partie de cette complexité, en gérant automatiquement l'implémentation et l'optimisation des fonctions de perte, ce qui rend plus accessible la construction de modèles avancés de vision par ordinateur (VPI).