Constitutional AI

La IA Constitucional (CAI) es un método desarrollado por Anthropic para entrenar un modelo de lenguaje de modo que sea inocuo, proporcionándole un conjunto escrito de principios, la constitución, en lugar de etiquetas humanas que señalen resultados individuales como perjudiciales. Presentado en el artículo de diciembre de 2022 IA Constitucional: inocuidad a partir de comentarios de IA, el método hace que el modelo critique y revise sus propias respuestas según esos principios y, después, utiliza juicios de IA sobre qué respuesta los sigue mejor como datos de preferencias para el aprendizaje por refuerzo. El artículo siguió utilizando etiquetas humanas para la utilidad y las sustituyó solo para la inocuidad. Anthropic entrena sus modelos Claude con métodos basados en una constitución desde 2023.

Cómo funciona la IA constitucional#

El entrenamiento parte de un modelo que ya se ha ajustado para ser útil y consta de dos fases:

1. Fase supervisada: el modelo responde a indicaciones de pruebas de ataque diseñadas para provocar respuestas perjudiciales. Después, se le pide que critique su propia respuesta según un principio elegido al azar de la constitución y que la reescriba para abordar la crítica, durante una o varias rondas. El modelo se ajusta con las revisiones finales.
2. Fase de aprendizaje por refuerzo: el modelo ajustado genera pares de respuestas y un modelo de retroalimentación, al que se le proporciona un principio, juzga cuál de las dos es mejor; opcionalmente, primero razona paso a paso. Un modelo de preferencias entrenado con estas etiquetas de IA, mezcladas con etiquetas humanas de utilidad, proporciona después la recompensa para el aprendizaje por refuerzo. El artículo denominó a esta fase aprendizaje por refuerzo a partir de retroalimentación de IA (RLAIF).

A un nivel determinado de utilidad, los modelos resultantes eran menos perjudiciales que los entrenados con etiquetas humanas de inocuidad y también eran menos evasivos: en lugar de rechazar sin más solicitudes delicadas, las abordaban y explicaban sus objeciones.

Qué contiene una constitución#

El artículo de 2022 utilizó 16 principios breves para las críticas y otros 16 para los comentarios de IA, cada uno expresado como una instrucción, por ejemplo: «¿Cuál de estas respuestas del asistente es menos perjudicial? Elige la respuesta que probablemente daría una persona sensata, ética, educada y amable». La primera constitución publicada de Claude, en mayo de 2023, se basó en fuentes como la Declaración Universal de los Derechos Humanos de la ONU. En octubre de 2023, Anthropic y el Collective Intelligence Project realizaron un experimento abierto al público en el que unos 1.000 estadounidenses propusieron y votaron principios en la plataforma de deliberación Polis; un modelo entrenado con esa constitución pública obtuvo resultados similares a los del modelo propio de Anthropic y mostró menos sesgo en nueve dimensiones sociales.

En enero de 2026, Anthropic sustituyó la lista de reglas por una constitución para Claude mucho más extensa, que explica el razonamiento detrás del comportamiento que espera. Ordena cuatro prioridades: ser seguro en términos generales, ético en términos generales, cumplir las directrices de Anthropic y ser realmente útil. Mantiene unas pocas restricciones estrictas y se publica bajo una licencia de dominio público CC0. Claude utiliza el propio documento para generar datos de entrenamiento sintéticos, incluidas conversaciones en las que se aplica la constitución y clasificaciones de respuestas candidatas. La anotación inteligente de Ultralytics Platform puede ejecutar los modelos de visión Claude de Anthropic, entrenados con estos métodos basados en una constitución, para generar borradores de cuadros para las clases de un conjunto de datos de detección, que después revisan y guardan los anotadores.

IA constitucional frente a RLHF y métodos relacionados#

• Aprendizaje por refuerzo a partir de retroalimentación humana (RLHF): los evaluadores humanos comparan respuestas para entrenar el modelo de recompensa. CAI mantiene el mismo flujo de trabajo, pero sustituye las comparaciones humanas de inocuidad por comparaciones de IA guiadas por principios; así, evita que los evaluadores tengan que leer grandes cantidades de texto perjudicial y hace que el objetivo del entrenamiento sea fácil de leer y modificar. El juez de IA también tiene sus propios puntos ciegos, así que la redacción de los principios influye en el resultado.
• RLAIF en general: cualquier aprendizaje por refuerzo basado en etiquetas de preferencias generadas por IA. CAI es la variante guiada por una constitución, y un estudio de Google de 2023 concluyó que RLAIF obtuvo resultados comparables a RLHF en tareas de resumen y diálogo.
• Optimización directa de preferencias (DPO): forma de aprender a partir de pares de preferencias sin un modelo de recompensa independiente. Se puede entrenar tanto con etiquetas de IA guiadas por una constitución como con etiquetas humanas.
• Barreras de protección de IA: filtros que se aplican alrededor de un modelo durante la inferencia. Los clasificadores constitucionales de Anthropic conectan ambos conceptos: una constitución define el contenido permitido y el prohibido, Claude genera ejemplos sintéticos a partir de ella y los clasificadores de entrada y salida entrenados bloquean los jailbreaks. En febrero de 2025, redujeron del 86 % al 4,4 % la tasa de éxito de los jailbreaks en pruebas automatizadas; la versión de enero de 2026 redujo el coste de cálculo unas 40 veces respecto al clasificador de referencia y rechazó el 0,05 % del tráfico de producción.