Shortcut Learning

L’apprentissage par raccourci se produit lorsqu’un modèle résout sa tâche d’entraînement à l’aide d’un indice simple qui prédit l’étiquette dans les données d’entraînement, mais n’a aucun lien avec le concept qu’il devait apprendre. Le modèle obtient de bons résultats sur tout jeu de test qui partage cet indice, puis échoue dès que celui-ci disparaît. Dans leur article de référence de 2020 publié dans Nature Machine Intelligence, Robert Geirhos et ses collègues ont caractérisé le problème dans Shortcut Learning in Deep Neural Networks, définissant les raccourcis comme des règles de décision performantes sur les bancs d’essai standards, mais qui ne se transposent pas à des conditions plus difficiles, comme celles du monde réel. L’analogie classique est Clever Hans, le cheval qui semblait savoir calculer, mais lisait le langage corporel de son entraîneur.

Raccourcis dans les modèles publiés#

Des raccourcis ont été observés dans de nombreux modèles publiés :

• Signatures hospitalières dans les images médicales : dans une étude de 2018 menée par John Zech et ses collègues, des classificateurs de pneumonie entraînés sur des radiographies thoraciques provenant de plusieurs réseaux hospitaliers pouvaient identifier l’hôpital d’origine d’une image. Comme les taux de maladie variaient d’un hôpital à l’autre, cette information sur la source aidait à prédire le diagnostic. Les performances étaient souvent plus faibles dans les hôpitaux absents des données d’entraînement, un risque récurrent pour l’IA en radiologie.
• Radiographies de la COVID-19 : une analyse de 2021 menée par Alex DeGrave et ses collègues a montré que les détecteurs de la COVID-19 s’appuyaient sur les marqueurs textuels, le positionnement des patients et les différences entre les sources de données plutôt que sur les signes pulmonaires, et qu’ils perdaient une grande partie de leur précision sur des données provenant de nouveaux hôpitaux.
• Arrière-plans des photos de pièges photographiques : l’étude de 2018 « Recognition in Terra Incognita », menée par Sara Beery et ses collègues, a montré que les modèles de classification d’images associaient les animaux aux lieux et aux arrière-plans où ils avaient été photographiés. Leur précision diminuait donc sur de nouveaux sites de caméras, un problème connu pour l’IA au service de la conservation de la faune. L’article s’ouvre sur l’image d’une vache sur une plage qu’un classificateur commercial n’a pas reconnue, alors que les vaches dans les pâturages alpins étaient correctement étiquetées.
• La texture plutôt que la forme : des réseaux neuronaux convolutifs entraînés sur ImageNet ont classé comme un éléphant une image présentant la forme d’un chat et la texture de la peau d’un éléphant, comme l’ont montré Geirhos et ses collègues en 2019.

Pourquoi la validation standard ne permet pas de le détecter#

Une partition aléatoire en ensembles d’entraînement et de validation reproduit le raccourci dans les deux moitiés, ce qui donne une excellente précision sur les données de validation. L’échec n’apparaît que sur des données recueillies différemment : dans un nouveau site, avec une nouvelle caméra, un nouvel hôpital, une nouvelle saison ou une nouvelle période.

C’est ce qui distingue l’apprentissage par raccourcis des problèmes connexes :

• Surapprentissage : mémorisation du bruit propre aux données d’entraînement, qui se manifeste par un écart entre les scores d’entraînement et de validation. Un raccourci peut se généraliser parfaitement à un jeu de validation provenant de la même source.
• Fuite de données : des informations qui n’existeront pas au moment de la prédiction se retrouvent dans les caractéristiques ou les partitions. La fuite de données est un moyen précis, souvent accidentel, par lequel un raccourci entre dans un jeu de données.
• Biais des jeux de données : déséquilibre des données recueillies, par exemple lorsque tous les exemples positifs proviennent d’un même scanner, qui offre au raccourci un indice auquel s’accrocher.

Quelques lignes de scikit-learn reproduisent l’échec avec une régression logistique à deux caractéristiques : un signal authentique faible et un raccourci qui suit presque parfaitement l’étiquette dans les données d’entraînement.

import numpy as np
from sklearn.linear_model import LogisticRegression

rng = np.random.default_rng(0)
labels = rng.integers(0, 2, 2000)

# A weak genuine signal and a shortcut that tracks the label almost perfectly
signal = labels + rng.normal(0, 1.0, labels.size)
shortcut = labels + rng.normal(0, 0.1, labels.size)

model = LogisticRegression()
model.fit(np.column_stack([signal, shortcut]), labels)

# At deployment the shortcut no longer carries any label information
shifted = rng.permutation(shortcut)
print(f"In-distribution accuracy: {model.score(np.column_stack([signal, shortcut]), labels):.2f}")
print(f"Shifted accuracy: {model.score(np.column_stack([signal, shifted]), labels):.2f}")

La précision passe de 1,00 à 0,52 lorsque le raccourci est mélangé. Le signal authentique seul permet d’atteindre environ 70 % de précision, mais le modèle a attribué au raccourci un coefficient environ 18 fois supérieur à celui du signal ; il n’a donc presque rien appris de l’indice plus difficile.

Détecter et éliminer les raccourcis#

Le test le plus fiable consiste à évaluer le modèle sur des données que le raccourci ne peut pas suivre : des sites, des caméras ou des périodes entières exclues de l’entraînement, plutôt que des images choisies au hasard. Un grand écart entre ce score et le score obtenu dans la distribution d’entraînement suggère l’influence d’indices liés à l’arrière-plan, à l’éclairage ou au capteur. L’exploration des données permet de repérer les candidats avant l’entraînement. Le panneau Clustering d’Ultralytics Platform rapproche les images visuellement similaires sur une carte 2D et les colore selon leur classe, leur partition ou leur largeur et leur hauteur. Une classe qui forme sa propre île parce que ses images proviennent d’une seule caméra ressort ainsi avant qu’un modèle YOLO26 puisse apprendre la caméra au lieu de l’objet.

Les modifications contrefactuelles permettent de tester directement un indice suspecté. Remplacer l’arrière-plan, supprimer une superposition ou recadrer un marqueur laisse une prédiction correcte inchangée, mais modifie une prédiction reposant sur un raccourci. Les méthodes d’attribution de l’IA explicable (XAI), comme les cartes de saillance, montrent quels pixels déterminent une prédiction ; dans l’étude sur la COVID-19, elles ont mis en évidence les bords de l’image et le texte plutôt que les poumons.

Pour corriger un raccourci, il faut généralement modifier les données. Recueillir des exemples où l’indice et l’étiquette ne concordent pas, par exemple des pièces défectueuses photographiées sur chaque plateau et chaque arrière-plan, rompt la corrélation. L’augmentation des données, qui fait varier la couleur, l’échelle et le placement, affaiblit les indices liés à ces caractéristiques. La randomisation de domaine remplit le même rôle pour les images synthétiques en randomisant les textures, l’éclairage et les arrière-plans. Lorsque les groupes porteurs d’un raccourci sont connus, l’optimisation robuste aux distributions par groupes minimise la perte du groupe le moins performant au lieu de la perte moyenne.