Concept Bottleneck Models

Los modelos de cuello de botella de conceptos (CBMs) son redes neuronales que realizan una predicción mediante una capa intermedia de conceptos comprensibles para las personas. En lugar de asignar directamente una entrada a una etiqueta final, un CBM predice primero atributos significativos —como «ala roja», «grieta superficial» o «estrechamiento articular»— y después utiliza únicamente esos atributos para tomar su decisión. Esta estructura hace que el modelo sea más fácil de inspeccionar, depurar y corregir que un modelo de caja negra convencional.

Cómo funcionan los modelos de cuello de botella de conceptos#

Una red neuronal estándar suele representar la información en un espacio latente opaco. Un CBM sustituye una parte de esa representación oculta por un vector de conceptos cuyas dimensiones tienen significados definidos.

Su proceso de predicción consta de dos etapas principales:

1. Un predictor de conceptos asigna la entrada sin procesar, como una imagen, a valores de conceptos.
2. Un predictor del objetivo asigna esos valores de conceptos a la clase o puntuación final.

Por ejemplo, un clasificador de aves podría predecir «pico negro», «pecho blanco» y «cola larga» antes de identificar la especie. Los conceptos pueden ser binarios, categóricos o continuos. Normalmente se aprenden mediante aprendizaje supervisado, lo que requiere que cada ejemplo de entrenamiento incluya tanto las etiquetas objetivo como las anotaciones de conceptos.

Las dos etapas pueden entrenarse de forma independiente, secuencial o conjunta. El entrenamiento independiente hace explícita la separación, mientras que el entrenamiento conjunto puede equilibrar la calidad de los conceptos con el rendimiento en la tarea final. En todos los casos, el cuello de botella debe limitar el predictor del objetivo a los conceptos declarados; de lo contrario, la información oculta podría eludir la explicación prevista.

Por qué son importantes la interpretabilidad y la intervención#

Los CBM son una forma de IA explicable intrínseca: su estructura interpretable está integrada en la predicción, en lugar de añadirse posteriormente. Esto difiere de herramientas a posteriori como los mapas de saliencia, que estiman qué influyó en una caja negra ya entrenada.

La capa de conceptos permite varias interacciones útiles:

• Los usuarios pueden inspeccionar qué conceptos provocaron una decisión.
• Los expertos del dominio pueden corregir un concepto impreciso y volver a calcular la salida.
• Los desarrolladores pueden comprobar si el predictor del objetivo sigue una lógica válida del dominio.
• Los equipos pueden medir la precisión de los conceptos por separado de la precisión de la tarea final.

Estas capacidades coinciden con las directrices del NIST sobre IA explicable y con los controles centrados en las personas descritos en el People + AI Guidebook. Sin embargo, una explicación comprensible no es automáticamente correcta. La fidelidad de los conceptos debe evaluarse, no darse por supuesta.

Aplicaciones en el mundo real#

• Análisis de imágenes médicas: Un modelo que examine una radiografía podría estimar conceptos como osteofitos, estrechamiento del espacio articular y esclerosis antes de graduar la gravedad de la enfermedad. Un médico puede revisar o corregir estos hallazgos intermedios en lugar de recibir únicamente una puntuación de gravedad. Esta interacción entre la persona y el modelo es especialmente relevante para los principios de transparencia de la FDA para dispositivos médicos basados en aprendizaje automático.

• Inspección visual industrial: Un sistema de visión puede identificar conceptos como componentes ausentes, grietas, decoloración o alineación incorrecta y utilizarlos después para decidir si un producto supera la inspección o requiere una reparación concreta. La detección de objetos puede localizar componentes y defectos, mientras que el clasificador posterior basado en conceptos proporciona una decisión de calidad auditable.

Limitaciones y conceptos relacionados#

Las etiquetas de conceptos generan costes adicionales de anotación de datos y pueden requerir conocimientos especializados. Los conceptos mal definidos pueden ser subjetivos, estar correlacionados, ser incompletos o resultar difíciles de reconocer a partir de la entrada. Los equipos deben crear reglas de etiquetado precisas y auditar las discrepancias entre anotadores.

Otros riesgos importantes son los errores de predicción de conceptos, las puntuaciones no calibradas y la fuga de conceptos, en la que los valores continuos de los conceptos codifican información no intencionada más allá de su significado declarado. Las directrices sobre calibración de probabilidades pueden ayudar a determinar si los valores de confianza de los conceptos son fiables.

Un CBM también es diferente de la ingeniería de características: las características diseñadas son entradas calculadas manualmente, mientras que los conceptos normalmente se predicen a partir de datos sin procesar y se supervisan explícitamente. Tampoco es lo mismo que el principio del cuello de botella de la información, que comprime las representaciones sin exigir que cada dimensión sea legible para las personas.

El rendimiento de los conceptos debe comprobarse en los segmentos de datos pertinentes, ya que las anotaciones sesgadas o la ausencia de conceptos pueden producir errores desiguales. Las directrices de Google para identificar el sesgo en ML y el núcleo del NIST AI RMF ofrecen prácticas útiles de evaluación y gobernanza.

Creación de un flujo de trabajo de visión práctico#

Un modelo Ultralytics YOLO26 puede actuar como extractor visual de conceptos en una etapa anterior. El siguiente flujo de trabajo del modo Predict recopila las clases de objetos detectados como señales candidatas de conceptos:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

Esto no es un CBM completo: todavía hay que entrenar un modelo posterior para predecir el objetivo final exclusivamente a partir de los conceptos seleccionados. Los equipos pueden utilizar Ultralytics Platform para anotar datos visuales, entrenar extractores de conceptos, comparar experimentos y supervisar componentes desplegados. Evalúa por separado la precisión de los conceptos, la precisión del objetivo, la calibración, el comportamiento ante intervenciones y los subgrupos importantes mediante un flujo de trabajo estructurado de evaluación de modelos.