Jagged Intelligence

L’intelligence en dents de scie décrit le profil inégal des capacités des systèmes d’IA modernes : le même modèle peut atteindre le niveau d’expert sur des tâches difficiles et échouer sur des tâches simples que la plupart des gens trouvent triviales. Andrej Karpathy a créé ce terme en 2024 pour désigner les grands modèles de langage (LLM) capables de résoudre des problèmes de mathématiques difficiles tout en affirmant que 9,11 est supérieur à 9,9. Le comptage erroné de la lettre « r » dans « strawberry » est devenu un autre exemple célèbre. Représentées pour différentes tâches, les compétences d’un tel modèle forment une ligne en dents de scie, avec des pics marqués et des creux profonds ; il est difficile de prévoir la position des creux à partir des pics.

Pourquoi les capacités sont inégales#

Un modèle est plus performant là où ses données d’entraînement sont abondantes et où sa représentation interne correspond à la tâche, et ces deux conditions varient fortement d’une tâche à l’autre. La représentation explique bon nombre des échecs célèbres en traitement de texte. La tokenisation divise le texte en jetons constitués de sous-mots avant qu’il ne soit transmis au modèle, comme le montre le tokenizer d’OpenAI pour GPT-4o :

import tiktoken

# o200k_base est le tokenizer qu’utilise GPT-4o d’OpenAI
encoding = tiktoken.get_encoding("o200k_base")

for question in ["How many r letters are in strawberry?", "Which is bigger, 9.11 or 9.9?"]:
    tokens = [encoding.decode([t]) for t in encoding.encode(question)]
    print(tokens)

Le mot « strawberry » arrive sous la forme d’un seul jeton : le modèle ne voit donc jamais ses trois « r » et doit se rappeler l’orthographe à partir des textes d’entraînement. Les nombres arrivent sous la forme « 9 », « . », « 11 » et « 9 », « . », « 9 » ; dans une grande partie de ces textes, ces paires sont des numéros de version, des dates ou des chapitres de livre, où 9.11 vient effectivement après 9.9 et où 11 est supérieur à 9. Le modèle répond en s’appuyant sur ces motifs plutôt qu’en effectuant une comparaison numérique.

La couverture des données explique une grande partie du reste. Les compétences présentes en permanence dans les données d’entraînement deviennent fiables, tandis que les formats rares, les formulations inhabituelles et les cas limites restent difficiles, même s’ils semblent simples à une personne. Les modèles de vision présentent le même phénomène. Un modèle de détection d’objets peut être excellent pour détecter les objets courants et de grande taille en plein jour, tout en étant bien moins performant sur les petits objets, les classes rares ou les points de vue inhabituels, même si une personne les trouverait tous aussi faciles à reconnaître.

L’effet en dents de scie diffère du paradoxe de Moravec, l’observation faite par Hans Moravec en 1988 selon laquelle les tâches difficiles pour les humains, comme les échecs, sont faciles pour les ordinateurs, tandis que les capacités humaines qui semblent sans effort, comme la perception et le mouvement, leur sont difficiles. Les capacités en dents de scie ne suivent pas la difficulté humaine dans un sens ou dans l’autre ; l’intuition sur ce qui est « facile » prédit donc mal les situations où un modèle échouera.

La frontière en dents de scie à l'œuvre#

Les mêmes inégalités influencent la façon dont les personnes travaillent avec l’IA. Dans une expérience de terrain menée en 2023 auprès de 758 consultants du Boston Consulting Group, des chercheurs de la Harvard Business School et d’autres institutions ont décrit une frontière technologique en dents de scie. Sur 18 tâches situées à l’intérieur de cette frontière, les consultants utilisant GPT-4 ont accompli 12,2 % de tâches en plus, travaillé 25,1 % plus vite et produit un travail dont la qualité a été évaluée à plus de 40 % supérieure. Pour une tâche située juste au-delà de cette frontière, les consultants utilisant l’IA étaient 19 points de pourcentage moins susceptibles de trouver la bonne réponse que ceux qui travaillaient sans elle. L’intelligence en dents de scie désigne le profil inégal des capacités du modèle, tandis que la frontière en dents de scie désigne la limite qui en résulte entre les tâches facilitées par l’IA et celles qu’elle dégrade insidieusement.

L’irrégularité des capacités complique aussi les affirmations sur l’intelligence artificielle générale (AGI). Un score moyen calculé sur un large jeu de données de référence peut augmenter régulièrement alors que certains creux persistent ; une moyenne mise en avant en dit donc peu sur la fiabilité du modèle pour une tâche donnée.

Mesurer un profil en dents de scie#

Les écarts de capacités deviennent visibles lorsqu’on répartit l’évaluation en sous-groupes au lieu de la résumer par un seul chiffre. Pour un détecteur, la première répartition se fait par classe. Le mode Validation d’Ultralytics YOLO26 rapporte la précision moyenne (mAP) globale et celle de chaque classe présente dans les étiquettes de validation ; en triant les métriques par classe, on voit d’abord les creux :

from ultralytics import YOLO

# Validate a pretrained detector on labeled images
model = YOLO("yolo26n.pt")
metrics = model.val(data="coco8.yaml")

# One row per class in the validation labels, weakest first
rows = sorted(metrics.summary(), key=lambda row: row["mAP50-95"])
print(f"Overall mAP50-95: {metrics.box.map:.3f}")
for row in rows[:3]:
    print(f"{row['Class']}: {row['mAP50-95']} mAP50-95 over {row['Instances']} instances")

Sur un jeu de validation complet comme les 5 000 images de COCO, la même répartition indique quelles classes nécessitent davantage de données ou un examen plus attentif de leurs étiquettes. Les classes ne constituent que le premier sous-groupe. L’éclairage, l’angle de la caméra, le mouvement et l’occultation peuvent chacun révéler leurs propres creux ; les tests de modèles sur de nouvelles images prises dans ces conditions permettent de les mettre en évidence :

Après le déploiement, le profil continue d’évoluer avec les changements des entrées, et le suivi de la dérive des données révèle lorsque les images de production commencent à se retrouver dans des zones jamais couvertes par le jeu de validation.