Capsule Networks (CapsNet)

Les réseaux à capsules, souvent abrégés en CapsNets, constituent une architecture avancée dans le domaine de l'apprentissage profond, conçue pour surmonter certaines limites des réseaux neuronaux traditionnels. Introduits par Geoffrey Hinton et son équipe, les CapsNets tentent d'imiter plus fidèlement l'organisation neuronale biologique du cerveau humain que les modèles standards. Contrairement à un réseau neuronal convolutif (CNN) classique, qui excelle dans la détection de caractéristiques, mais perd souvent les relations spatiales en raison du sous-échantillonnage, un réseau à capsules organise les neurones en groupes appelés « capsules ». Ces capsules codent non seulement la probabilité de présence d'un objet, mais aussi ses propriétés spécifiques, telles que son orientation, sa taille et sa texture, préservant ainsi efficacement les relations spatiales hiérarchiques au sein des données visuelles.

La limite des CNN traditionnels#

Pour comprendre l'innovation des CapsNets, il est utile d'examiner le fonctionnement des modèles standards de vision par ordinateur. Un CNN classique utilise des couches d'extraction de caractéristiques suivies de couches de pooling, notamment le max pooling, afin de réduire la charge de calcul et d'obtenir une invariance aux translations. Cela signifie qu'un CNN peut identifier un « chat », quelle que soit sa position dans l'image.

Cependant, ce processus élimine souvent les informations précises de localisation, ce qui entraîne le « problème de Picasso » : un CNN peut classer correctement un visage même si la bouche se trouve sur le front, simplement parce que toutes les caractéristiques nécessaires sont présentes. Les CapsNets remédient à ce problème en supprimant les couches de pooling et en les remplaçant par un processus qui respecte les hiérarchies spatiales des objets.

Fonctionnement des réseaux à capsules#

L'élément fondamental de cette architecture est la capsule, un ensemble imbriqué de neurones qui produit un vecteur plutôt qu'une valeur scalaire. En mathématiques vectorielles, un vecteur possède à la fois une norme et une direction. Dans un CapsNet :

• Norme (longueur) : représente la probabilité qu'une entité donnée existe dans l'entrée actuelle.
• Direction (orientation) : code les paramètres d'instanciation, tels que l'estimation de pose, l'échelle et la rotation de l'objet.

Les capsules des couches inférieures (qui détectent des formes simples comme les contours) prédisent la sortie des capsules des couches supérieures (qui détectent des objets complexes comme des yeux ou des pneus). Cette communication est gérée par un algorithme appelé « routage dynamique » ou « routage par accord ». Si la prédiction d'une capsule de niveau inférieur correspond à l'état de la capsule de niveau supérieur, la connexion entre elles est renforcée. Le réseau peut ainsi reconnaître des objets depuis différents points de vue 3D sans nécessiter l'importante augmentation des données généralement requise pour apprendre aux CNN à gérer la rotation et l'échelle.

Différences clés : CapsNets contre CNN#

Bien que les deux architectures soient fondamentales pour la vision par ordinateur (CV), elles diffèrent dans leur manière de traiter et de représenter les données visuelles :

• Scalaire contre vecteur : les neurones des CNN utilisent des sorties scalaires pour indiquer la présence d'une caractéristique. Les CapsNets utilisent des vecteurs pour coder la présence (longueur) et les paramètres de pose (orientation).
• Routage contre pooling : les CNN utilisent le pooling pour sous-échantillonner les données, ce qui entraîne souvent une perte des détails de localisation. Les CapsNets utilisent le routage dynamique pour préserver les données spatiales, ce qui les rend particulièrement efficaces pour les tâches nécessitant un suivi précis des objets.
• Efficacité des données : comme les capsules comprennent implicitement les points de vue 3D et les transformations affines, elles peuvent souvent généraliser à partir d'une quantité moindre de données d'entraînement que les CNN, qui peuvent nécessiter de nombreux exemples pour apprendre chaque rotation possible d'un objet.

Applications concrètes#

Bien que les CapsNets soient souvent plus coûteux en calcul que des modèles optimisés comme YOLO26, ils offrent des avantages distincts dans des domaines spécialisés :

1. Analyse d'images médicales : dans le domaine de la santé, l'orientation et la forme précises d'une anomalie sont essentielles. Des chercheurs ont appliqué les CapsNets à la segmentation des tumeurs cérébrales, où le modèle doit distinguer une tumeur des tissus environnants en se fondant sur des hiérarchies spatiales subtiles que les CNN standards pourraient lisser. Tu peux consulter des recherches connexes sur les réseaux à capsules en imagerie médicale.

2. Reconnaissance de chiffres qui se chevauchent : les CapsNets ont obtenu des résultats de pointe sur l'ensemble de données MNIST, notamment dans les situations où les chiffres se chevauchent. Comme le réseau suit la « pose » de chaque chiffre, il peut dissocier deux nombres superposés (par exemple, un « 3 » placé sur un « 5 ») en tant qu'objets distincts, au lieu de les fusionner en une seule carte de caractéristiques confuse.

Contexte pratique et mise en œuvre#

Les réseaux à capsules sont principalement une architecture de classification. Bien qu'ils offrent une robustesse théorique, les applications industrielles modernes privilégient souvent les CNN ou les Transformers rapides pour obtenir des performances en temps réel. Il reste toutefois utile de comprendre les benchmarks de classification utilisés pour les CapsNets, comme MNIST.

L'exemple suivant montre comment entraîner un modèle de classification YOLO moderne sur l'ensemble de données MNIST à l'aide du package ultralytics. Cela correspond à la tâche de référence principale utilisée pour valider les réseaux à capsules.

from ultralytics import YOLO

# Load a YOLO26 classification model (optimized for speed and accuracy)
model = YOLO("yolo26n-cls.pt")

# Train the model on the MNIST dataset
# This dataset helps evaluate how well a model learns handwritten digit features
results = model.train(data="mnist", epochs=5, imgsz=32)

# Run inference on a sample image
# The model predicts the digit class (0-9)
predict = model("https://docs.ultralytics.com/datasets/classify/mnist")

L'avenir des capsules et de l'IA pour la vision#

Les principes qui sous-tendent les réseaux à capsules continuent d'influencer la recherche sur la sécurité de l'IA et l'interprétabilité. En modélisant explicitement les relations entre les parties et le tout, les capsules offrent une alternative « boîte vitrée » à la nature de « boîte noire » des réseaux neuronaux profonds, rendant les décisions plus explicables. Les développements futurs visent à combiner la robustesse spatiale des capsules avec la vitesse d'inférence d'architectures comme YOLO11 ou le plus récent YOLO26 afin d'améliorer les performances en détection d'objets 3D et en robotique. Les chercheurs étudient également les capsules matricielles avec routage EM afin de réduire davantage le coût de calcul de l'algorithme d'accord.

Pour les développeurs qui souhaitent gérer efficacement des ensembles de données et entraîner des modèles, l'Ultralytics Platform fournit un environnement unifié permettant d'annoter les données, d'entraîner des modèles dans le cloud et de déployer des modèles qui équilibrent la vitesse des CNN avec la précision requise pour les tâches de vision complexes.