Underfitting

Le sous-apprentissage se produit lorsqu’un modèle de machine learning est trop simple ou manque de capacité pour capturer les tendances et les schémas sous-jacents des données d’entraînement. Conceptuellement, cela revient à essayer d’ajuster une ligne droite à des points de données qui forment une courbe distincte : le modèle ne parvient pas à saisir la complexité de la relation entre les entrées et les sorties. Comme le modèle n’a pas appris efficacement les données, il affiche de mauvaises performances non seulement sur l’ensemble d’entraînement, mais aussi sur des données de validation inédites, ce qui entraîne une faible précision prédictive. Ce phénomène résulte souvent d’un biais en IA élevé, lorsque l’algorithme formule des hypothèses excessivement simplistes sur la fonction cible.

Causes et indicateurs#

Plusieurs facteurs peuvent entraîner le sous-apprentissage d’un modèle. La cause la plus courante est l’utilisation d’une architecture de modèle qui n’est pas suffisamment complexe pour la tâche concernée, par exemple l’application d’une régression linéaire à des données non linéaires. Une durée d’entraînement insuffisante, lorsque le modèle ne dispose pas d’un nombre suffisant d’époques pour converger, empêche également un apprentissage adéquat. En outre, une régularisation excessive — une technique généralement utilisée pour éviter le problème inverse — peut trop contraindre le modèle et l’empêcher de capturer des caractéristiques importantes.

Les ingénieurs peuvent identifier le sous-apprentissage en surveillant les fonctions de perte pendant l’entraînement. Si l’erreur d’entraînement et l’erreur de validation restent toutes deux élevées et ne diminuent pas de manière significative, le modèle est probablement en sous-apprentissage. Contrairement à une ingénierie des caractéristiques efficace, qui aide les modèles à comprendre les données, fournir trop peu de caractéristiques peut également priver le modèle d’informations nécessaires.

Sous-apprentissage ou surapprentissage#

Il est essentiel de distinguer le sous-apprentissage de son pendant, le surapprentissage. Ces deux concepts représentent les extrémités opposées du compromis biais-variance.

• Sous-apprentissage (biais élevé) : Le modèle est trop rigide. Il affiche de mauvaises performances sur les données d’entraînement comme sur les données de test, car il n’a pas appris le signal de base.
• Surapprentissage (variance élevée) : Le modèle est trop flexible. Il mémorise les données d’entraînement, y compris le bruit, et affiche des performances exceptionnelles pendant l’entraînement, mais ne parvient pas à généraliser à de nouveaux exemples.

Trouver le « juste milieu » entre ces deux extrêmes est l’objectif principal de l’optimisation des modèles.

Applications concrètes#

Comprendre le sous-apprentissage est essentiel pour développer des systèmes d’IA fiables dans divers secteurs.

• Conduite autonome : Dans le contexte des véhicules autonomes, un modèle de détection d’objets sous-appris peut ne pas parvenir à distinguer un piéton d’un lampadaire dans des environnements urbains complexes. Comme le modèle ne dispose pas des paramètres nécessaires pour apprendre les différences visuelles subtiles, il compromet la sécurité de l’IA.
• Diagnostics médicaux : Lorsqu’une analyse d’images médicales est utilisée pour détecter des anomalies comme des tumeurs, un modèle trop simple peut manquer de petites excroissances ou de lésions irrégulières. Si le réseau neuronal est trop peu profond, il ne peut pas apprendre les textures complexes nécessaires pour atteindre une sensibilité et une spécificité élevées, ce qui entraîne des diagnostics manqués.

Traiter le sous-apprentissage avec du code#

En vision par ordinateur, le sous-apprentissage se produit souvent lorsqu’une variante de modèle est trop petite pour la difficulté de la tâche, par exemple pour détecter de petits objets dans des images de drones à haute résolution. L’exemple Python suivant montre comment passer d’un modèle plus petit à un modèle plus grand et plus performant à l’aide de la bibliothèque ultralytics, afin de résoudre un éventuel sous-apprentissage.

from ultralytics import YOLO

# If 'yolo26n.pt' (Nano) is underfitting and yielding low accuracy,
# upgrade to a model with higher capacity like 'yolo26l.pt' (Large).
model = YOLO("yolo26l.pt")

# Train the larger model.
# Increasing epochs also helps the model converge if it was previously underfitting.
results = model.train(data="coco8.yaml", epochs=100, imgsz=640)

En passant à un modèle Ultralytics YOLO26 plus grand et en garantissant une durée d’entraînement adéquate, le système obtient les paramètres nécessaires pour apprendre des schémas complexes, ce qui atténue efficacement le sous-apprentissage. Pour vérifier que ton modèle n’est plus en sous-apprentissage, évalue-le toujours sur un jeu de données de test robuste. Pour gérer les jeux de données et suivre les expériences afin de détecter rapidement le sous-apprentissage, l’Ultralytics Platform propose des outils complets de visualisation et d’analyse.