Jagged Intelligence

La inteligencia irregular describe el perfil de capacidades desigual de los sistemas de IA modernos: un mismo modelo puede rendir a nivel experto en tareas difíciles y fallar en tareas sencillas que la mayoría de las personas considera triviales. Andrej Karpathy acuñó el término en 2024 para los modelos de lenguaje grandes (LLMs) que podían resolver problemas matemáticos difíciles y, aun así, insistían en que 9.11 es mayor que 9.9. Contar mal la letra «r» de «strawberry» se convirtió en otro ejemplo famoso. Representada en distintas tareas, la competencia de un modelo así forma una línea irregular con picos pronunciados y valles profundos, y es difícil predecir dónde estarán los valles a partir de los picos.

Por qué las capacidades son desiguales#

Un modelo rinde mejor allí donde sus datos de entrenamiento son abundantes y su representación interna se ajusta a la tarea, y ambas condiciones varían mucho de una tarea a otra. La representación explica muchos de los conocidos fallos de texto. La tokenización divide el texto en tokens de subpalabras antes de que el modelo lo vea, como muestra el tokenizador de OpenAI para GPT-4o:

import tiktoken

# o200k_base es el tokenizador que utiliza GPT-4o de OpenAI
encoding = tiktoken.get_encoding("o200k_base")

for question in ["How many r letters are in strawberry?", "Which is bigger, 9.11 or 9.9?"]:
    tokens = [encoding.decode([t]) for t in encoding.encode(question)]
    print(tokens)

La palabra « strawberry» llega como un único token, así que el modelo nunca ve sus tres letras r y tiene que recordar la ortografía a partir del texto de entrenamiento. Los números llegan como «9», «.», «11» y «9», «.», «9» y, en buena parte de ese texto, esos pares son números de versión, fechas o capítulos de libros, donde 9.11 sí va después de 9.9 y 11 es mayor que 9. El modelo responde basándose en esos patrones en lugar de realizar una comparación numérica.

La cobertura de los datos explica buena parte del resto. Las habilidades que aparecen constantemente en los datos de entrenamiento se vuelven fiables, mientras que los formatos poco frecuentes, las expresiones inusuales y los casos límite siguen siendo débiles, por sencillos que le parezcan a una persona. Los modelos de visión muestran el mismo patrón. Un modelo de detección de objetos puede ser excelente con objetos comunes y grandes a plena luz del día y mucho peor con objetos pequeños, clases poco frecuentes o puntos de vista inusuales, aunque una persona considere que todos son igual de fáciles.

La irregularidad es distinta de la paradoja de Moravec, observación de Hans Moravec de 1988 según la cual tareas difíciles para las personas, como el ajedrez, son fáciles para los ordenadores, mientras que habilidades humanas que parecen sencillas, como la percepción y el movimiento, son difíciles. Las capacidades irregulares no siguen la dificultad humana en ninguna dirección, así que la intuición sobre lo que es «fácil» sirve de poco para saber dónde fallará un modelo.

La frontera irregular en la práctica#

La misma desigualdad condiciona la forma en que las personas trabajan con IA. En un experimento de campo de 2023 con 758 consultores de Boston Consulting Group, investigadores de Harvard Business School y otras instituciones describieron una frontera tecnológica irregular. En 18 tareas dentro de la frontera, los consultores que utilizaron GPT-4 completaron un 12,2 % más de tareas, trabajaron un 25,1 % más rápido y produjeron trabajo cuya calidad se valoró en más de un 40 % por encima. En una tarea justo fuera de la frontera, los consultores que usaron IA tuvieron 19 puntos porcentuales menos de probabilidades de acertar que quienes trabajaron sin ella. La inteligencia irregular denomina el perfil de capacidades desigual del modelo, y la frontera irregular, el límite resultante entre las tareas en las que la IA ayuda y aquellas en las que las empeora sin que apenas se note.

La irregularidad también complica las afirmaciones sobre la inteligencia artificial general (AGI). La puntuación media de un conjunto de datos de referencia amplio puede subir de forma constante mientras algunos valles concretos persisten, así que una media destacada dice poco sobre si un modelo es fiable en una tarea determinada.

Medir un perfil irregular#

Las capacidades desiguales se hacen visibles cuando la evaluación se divide en segmentos en lugar de comunicarse como una sola cifra. Para un detector, la primera división es por clase. El modo de validación de Ultralytics YOLO26 informa de la precisión media promedio (mAP) general y de cada clase de las etiquetas de validación; ordenar las métricas por clase pone primero los valles:

from ultralytics import YOLO

# Validate a pretrained detector on labeled images
model = YOLO("yolo26n.pt")
metrics = model.val(data="coco8.yaml")

# One row per class in the validation labels, weakest first
rows = sorted(metrics.summary(), key=lambda row: row["mAP50-95"])
print(f"Overall mAP50-95: {metrics.box.map:.3f}")
for row in rows[:3]:
    print(f"{row['Class']}: {row['mAP50-95']} mAP50-95 over {row['Instances']} instances")

En un conjunto de validación completo, como las 5.000 imágenes de COCO, el mismo desglose señala las clases que necesitan más datos o una revisión más minuciosa de sus etiquetas. Las clases son solo el primer segmento. La iluminación, el ángulo de la cámara, el movimiento y la oclusión pueden ocultar cada uno su propio valle, y las pruebas del modelo con imágenes nuevas tomadas en esas condiciones los ponen de manifiesto:

Tras el despliegue, el perfil sigue cambiando a medida que varían las entradas, y el seguimiento de la deriva de datos muestra cuándo las imágenes de producción empiezan a caer en regiones que el conjunto de validación nunca cubrió.