Jagged Intelligence

Zackige Intelligenz beschreibt das ungleichmäßige Fähigkeitsprofil moderner KI-Systeme: Dasselbe Modell kann bei schwierigen Aufgaben Expertenniveau erreichen und bei einfachen Aufgaben scheitern, die die meisten Menschen mühelos bewältigen. Andrej Karpathy prägte den Begriff 2024 für große Sprachmodelle (LLMs), die schwierige mathematische Probleme lösen konnten, aber darauf bestanden, dass 9.11 größer als 9.9 ist. Das falsche Zählen des Buchstabens „r“ in „strawberry“ wurde zu einem weiteren bekannten Beispiel. Trägt man die Kompetenz eines solchen Modells für verschiedene Aufgaben auf, ergibt sich eine zackige Linie mit hohen Spitzen und tiefen Tälern. Anhand der Spitzen lässt sich nur schwer vorhersagen, wo die Täler liegen.

Warum Fähigkeiten ungleichmäßig ausgeprägt sind#

Ein Modell ist besonders leistungsfähig, wenn seine Trainingsdaten dicht sind und seine interne Repräsentation zur Aufgabe passt. Beides kann sich von einer Aufgabe zur nächsten stark unterscheiden. Die Repräsentation erklärt viele der bekannten Fehler bei Textaufgaben. Die Tokenisierung zerlegt Text in Tokens aus Teilwörtern, bevor das Modell ihn verarbeitet, wie der Tokenizer von OpenAI für GPT-4o zeigt:

import tiktoken

# o200k_base ist der Tokenizer, den OpenAI für GPT-4o verwendet
encoding = tiktoken.get_encoding("o200k_base")

for question in ["How many r letters are in strawberry?", "Which is bigger, 9.11 or 9.9?"]:
    tokens = [encoding.decode([t]) for t in encoding.encode(question)]
    print(tokens)

Das Wort „strawberry“ kommt als einzelnes Token an. Daher sieht das Modell seine drei r nicht und muss sich an die Schreibweise aus den Trainingsdaten erinnern. Die Zahlen kommen als „9“, „.“, „11“ beziehungsweise „9“, „.“, „9“ an. In vielen dieser Texte sind solche Zahlenpaare Versionsnummern, Datumsangaben oder Buchkapitel, bei denen 9.11 tatsächlich nach 9.9 kommt und 11 größer als 9 ist. Das Modell antwortet anhand dieser Muster, statt einen Zahlenvergleich durchzuführen.

Auch die Abdeckung der Daten erklärt viele der übrigen Probleme. Fähigkeiten, die in den Trainingsdaten häufig vorkommen, werden zuverlässig, während seltene Formate, ungewöhnliche Formulierungen und Sonderfälle schwach bleiben, egal wie einfach sie einem Menschen erscheinen. Bei Bildverarbeitungsmodellen zeigt sich dasselbe Muster. Ein Objekterkennungsmodell kann bei häufig vorkommenden, großen Objekten bei Tageslicht hervorragend und bei kleinen Objekten, seltenen Klassen oder ungewöhnlichen Blickwinkeln deutlich schlechter abschneiden, obwohl ein Mensch all diese Fälle gleich einfach fände.

Zackige Fähigkeiten unterscheiden sich vom Moravec-Paradoxon, der Beobachtung von Hans Moravec aus dem Jahr 1988, dass für Menschen schwierige Aufgaben wie Schach für Computer einfach sind, während mühelose menschliche Fähigkeiten wie Wahrnehmung und Bewegung ihnen schwerfallen. Zackige Fähigkeiten folgen der menschlichen Einschätzung von Schwierigkeit jedoch in keine der beiden Richtungen. Die eigene Intuition darüber, was „einfach“ ist, sagt daher wenig darüber aus, woran ein Modell scheitern wird.

Die zerklüftete Grenze in der Praxis#

Dieselbe Ungleichmäßigkeit prägt auch die Zusammenarbeit von Menschen mit KI. In einem Feldexperiment von 2023 mit 758 Beratern der Boston Consulting Group beschrieben Forschende der Harvard Business School und anderer Einrichtungen eine zackige technologische Grenze. Bei 18 Aufgaben innerhalb dieser Grenze erledigten Berater mit GPT-4 12,2 % mehr Aufgaben, arbeiteten 25,1 % schneller und erzielten eine um mehr als 40 % höhere Qualitätsbewertung. Bei einer Aufgabe knapp außerhalb der Grenze fanden Berater mit KI die richtige Antwort 19 Prozentpunkte seltener als Berater ohne KI. Zackige Intelligenz beschreibt das ungleichmäßige Fähigkeitsprofil eines Modells. Die zackige technologische Grenze bezeichnet die daraus entstehende Trennlinie zwischen Aufgaben, bei denen KI hilft, und Aufgaben, die sie unmerklich schlechter macht.

Zackige Fähigkeiten erschweren auch Aussagen über künstliche allgemeine Intelligenz (AGI). Ein Durchschnittswert über einen breit angelegten Benchmark-Datensatz kann stetig steigen, während einzelne Täler bestehen bleiben. Ein hoher Durchschnittswert sagt daher wenig darüber aus, ob ein Modell bei einer bestimmten Aufgabe zuverlässig ist.

Ein zerklüftetes Fähigkeitsprofil messen#

Ungleichmäßige Fähigkeiten werden sichtbar, wenn die Auswertung in Teilbereiche aufgeschlüsselt statt als einzelne Zahl angegeben wird. Bei einem Detektor erfolgt die erste Aufschlüsselung nach Klassen. Der Validierungsmodus von Ultralytics YOLO26 gibt die mittlere durchschnittliche Präzision (mAP) insgesamt und für jede Klasse in den Validierungsbezeichnungen aus. Werden die Metriken pro Klasse sortiert, stehen die schwächsten Ergebnisse zuerst:

from ultralytics import YOLO

# Validate a pretrained detector on labeled images
model = YOLO("yolo26n.pt")
metrics = model.val(data="coco8.yaml")

# One row per class in the validation labels, weakest first
rows = sorted(metrics.summary(), key=lambda row: row["mAP50-95"])
print(f"Overall mAP50-95: {metrics.box.map:.3f}")
for row in rows[:3]:
    print(f"{row['Class']}: {row['mAP50-95']} mAP50-95 over {row['Instances']} instances")

Bei einem vollständigen Validierungssatz wie den 5.000 Bildern von COCO zeigt dieselbe Aufschlüsselung, für welche Klassen mehr Daten oder eine genauere Prüfung der Bezeichnungen benötigt werden. Klassen sind nur die erste Aufschlüsselung. Beleuchtung, Kamerawinkel, Bewegung und Verdeckung können jeweils eigene Schwachstellen aufweisen. Modelltests mit neuen Bildern unter solchen Bedingungen machen sie sichtbar:

Nach der Bereitstellung verändert sich das Profil mit den Eingaben weiter. Die Überwachung der Datenverschiebung zeigt, wenn Produktionsbilder in Bereiche fallen, die vom Validierungssatz nie abgedeckt wurden.