Semi-Supervised Learning

L'apprentissage semi-supervisé (SSL) est un paradigme stratégique en machine learning (ML) qui fait office de pont entre deux méthodes d'entraînement traditionnelles. Alors que l'supervised learning repose entièrement sur des jeux de données entièrement annotés et que l'unsupervised learning tente de trouver des motifs dans les données sans aucune balise, le SSL fonctionne en combinant une petite quantité de labeled data avec un ensemble beaucoup plus vaste d'unlabeled data. Cette approche est particulièrement précieuse dans les scénarios du monde réel en computer vision (CV) où la collecte d'images brutes — telles que des séquences vidéo provenant de caméras de sécurité ou de satellites — est relativement bon marché, mais où le processus de data labeling par des experts humains est coûteux, lent et exigeant en main-d'œuvre. En utilisant efficacement la structure cachée au sein des exemples non étiquetés, le SSL peut améliorer considérablement la model accuracy et la généralisation sans nécessiter de budget d'annotation exhaustif.

Mécanismes fondamentaux de l'apprentissage semi-supervisé#

L'objectif principal du SSL est de propager l'information trouvée dans le petit ensemble d'exemples étiquetés vers le grand ensemble non étiqueté. Cela permet au neural network d'apprendre des frontières de décision qui traversent des régions à faible densité des données, ce qui donne une classification ou une détection plus robuste.

Deux techniques populaires pilotent la plupart des flux de travail semi-supervisés :

• Pseudo-étiquetage : Dans cette méthode, un modèle est d'abord entraîné sur les données étiquetées limitées. Il est ensuite utilisé pour exécuter l'inférence sur les données non étiquetées. Les prédictions qui dépassent un seuil de confidence spécifique sont traitées comme des « pseudo-étiquettes » ou une ground truth. Ces prédictions confiantes sont ajoutées aux training data, et le modèle est réentraîné, améliorant ainsi ses performances de manière itérative.
• Régularisation de consistance : Cette technique repose sur l'data augmentation. L'idée est qu'un modèle doit produire des prédictions similaires pour une image et une version légèrement modifiée (augmentée) de cette même image. En minimisant la différence de prédictions entre la version originale et la version augmentée, le modèle apprend à se concentrer sur les fonctionnalités principales de l'objet plutôt que sur le bruit, améliorant ainsi sa capacité à gérer l'overfitting.

Mise en œuvre pratique avec YOLO#

L'exemple Python suivant démontre un flux de travail de pseudo-étiquetage simple utilisant le paquet ultralytics. Ici, nous entrînons un modèle YOLO26 sur un petit jeu de données et l'utilisons ensuite pour générer des étiquettes pour un répertoire d'images non étiquetées.

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# Train initially on a small available labeled dataset
model.train(data="coco8.yaml", epochs=10)

# Run inference on unlabeled data to generate pseudo-labels
# Setting save_txt=True saves the detections as text files for future training
results = model.predict(source="./unlabeled_images", save_txt=True, conf=0.85)

Applications concrètes#

L'apprentissage semi-supervisé transforme les secteurs où les données sont abondantes mais l'expertise rare.

• Imagerie médicale : En healthcare AI, l'acquisition de scanners (rayons X, IRM) est une procédure standard, mais faire annoter chaque pixel par un radiologue certifié par le conseil pour la tumor detection est d'un coût prohibitif. Le SSL permet aux chercheurs d'entraîner des modèles haute performance en utilisant seulement une fraction des cas annotés par des experts, en s'appuyant sur des milliers de scanners archivés pour affiner la compréhension des structures biologiques par le modèle.
• Conduite autonome : Les entreprises de voitures autonomes collectent quotidiennement des pétaoctets de données vidéo provenant de véhicules de flotte. Étiqueter chaque image pour l'object detection et la semantic segmentation est impossible. Grâce au SSL, le système peut apprendre de la grande majorité des heures de conduite non étiquetées pour mieux comprendre les environnements routiers complexes, les conditions météorologiques et les cas limites rares.

Distinguer les concepts apparentés#

Pour déployer efficacement des solutions d'IA, il est crucial de comprendre comment le SSL diffère des stratégies similaires :

• vs Active Learning : Bien que tous deux traitent des données non étiquetées, leur approche de l'étiquetage diffère. Le SSL attribue automatiquement des étiquettes en fonction des prédictions du modèle. En revanche, l'apprentissage actif identifie les points de données les plus « confus » ou incertains et demande explicitement à un human-in-the-loop de les étiqueter, optimisant ainsi le temps de l'humain plutôt que de l'éliminer complètement.
• vs Transfer Learning : Le transfer learning consiste à prendre un modèle pré-entraîné sur un vaste jeu de données externe (comme ImageNet) et à le fine-tuner sur ta tâche spécifique. Le SSL, cependant, se concentre sur l'exploitation de la portion non étiquetée de ta propre distribution de données pendant le processus d'entraînement lui-même.
• vs Self-Supervised Learning : Bien que les noms soient similaires, l'apprentissage auto-supervisé fait souvent référence à des « tâches prétextes » (comme résoudre un puzzle de patchs d'image) où les données génèrent leurs propres signaux de supervision sans aucun label externe. Le SSL implique spécifiquement l'utilisation d'un ensemble plus petit de labels vérifiés pour guider le processus.

Outils et perspectives d'avenir#

À mesure que les modèles de deep learning (DL) grandissent en taille, l'efficacité de l'utilisation des données devient primordiale. Des frameworks modernes comme PyTorch et TensorFlow fournissent le backend informatique pour ces boucles d'entraînement avancées. De plus, des outils comme la Ultralytics Platform simplifient le cycle de vie de la gestion des jeux de données. En utilisant des fonctionnalités comme l'auto-annotation, les équipes peuvent mettre en œuvre des flux de travail semi-supervisés plus facilement, transformant rapidement des données brutes en model weights prêts pour la production. Cette évolution dans le domaine du MLOps garantit que la barrière à l'entrée pour créer des systèmes de vision de haute précision continue de baisser.