La IA constitucional busca alinear los modelos de IA con los valores humanos

La inteligencia artificial (AI) se está convirtiendo rápidamente en una parte fundamental de nuestra vida cotidiana. Se está integrando en herramientas utilizadas en ámbitos como la sanidad, la selección de personal, las finanzas y la seguridad pública. A medida que estos sistemas se expanden, también aumentan las preocupaciones sobre su ética y fiabilidad.

Por ejemplo, en ocasiones los sistemas de IA creados sin tener en cuenta la equidad o la seguridad pueden producir resultados sesgados o poco fiables. Esto se debe a que muchos modelos todavía no tienen una forma clara de reflejar los valores humanos y alinearse con ellos.

Para abordar estos retos, los investigadores están explorando un enfoque conocido como IA constitucional. En pocas palabras, introduce un conjunto escrito de principios en el proceso de entrenamiento del modelo. Estos principios ayudan al modelo a evaluar su propio comportamiento, depender menos de los comentarios humanos y generar respuestas más seguras y fáciles de entender.

Hasta ahora, este enfoque se ha utilizado principalmente en relación con los modelos de lenguaje grandes (LLMs). Sin embargo, la misma estructura podría ayudar a orientar los sistemas de visión artificial para que tomen decisiones éticas al analizar datos visuales.

En este artículo, exploraremos cómo funciona la IA constitucional, veremos ejemplos reales y analizaremos sus posibles aplicaciones en sistemas de visión artificial.

Fig. 1. Características de la IA constitucional. Imagen del autor.

¿Qué es la IA constitucional?#

La IA constitucional es un método de entrenamiento de modelos que orienta el comportamiento de los modelos de IA mediante un conjunto claro de normas éticas. Estas normas actúan como un código de conducta. En lugar de depender de que el modelo deduzca qué es aceptable, este sigue un conjunto escrito de principios que da forma a sus respuestas durante el entrenamiento.

Este concepto fue introducido por Anthropic, una empresa de investigación centrada en la seguridad de la IA que desarrolló la familia de LLM Claude como método para hacer que los sistemas de IA fueran más autosupervisados en su toma de decisiones.

En lugar de depender únicamente de los comentarios humanos, el modelo aprende a criticar y perfeccionar sus propias respuestas basándose en un conjunto predefinido de principios. Este enfoque es similar a un sistema jurídico, en el que un juez consulta una constitución antes de emitir un juicio.

En este caso, el modelo se convierte tanto en juez como en alumno y utiliza el mismo conjunto de normas para revisar y perfeccionar su propio comportamiento. Este proceso refuerza la alineación del modelo de IA y favorece el desarrollo de sistemas de IA seguros y responsables.

¿Cómo funciona la IA constitucional?#

El objetivo de la IA constitucional es enseñar a un modelo de IA a tomar decisiones seguras y justas siguiendo un conjunto claro de normas escritas. Este es un resumen sencillo de cómo funciona el proceso:

• Definir la constitución: Se crea una lista escrita de principios éticos que el modelo debe seguir. La constitución establece qué debe evitar la IA y qué valores debe reflejar.
• Entrenamiento con ejemplos supervisados: Se muestran al modelo respuestas de ejemplo que siguen la constitución. Estos ejemplos ayudan a la IA a entender cómo es un comportamiento aceptable.
• Reconocer y aplicar patrones: Con el tiempo, el modelo empieza a identificar estos patrones. Aprende a aplicar los mismos valores al responder a nuevas preguntas o gestionar nuevas situaciones.
• Criticar y perfeccionar las salidas: El modelo revisa sus propias respuestas y las ajusta basándose en la constitución. Esta fase de autorrevisión le ayuda a mejorar sin depender únicamente de los comentarios humanos.
• Generar respuestas alineadas y más seguras: El modelo aprende de normas coherentes, lo que ayuda a reducir los sesgos y mejorar la fiabilidad en situaciones reales. Este enfoque lo alinea mejor con los valores humanos y facilita su gobernanza.

Fig. 2. Descripción general del uso de la IA constitucional para entrenar modelos.

Principios fundamentales del diseño ético de la IA#

Para que un modelo de IA siga normas éticas, primero hay que definirlas claramente. En el caso de la IA constitucional, estas normas se basan en un conjunto de principios fundamentales.

Por ejemplo, estos son cuatro principios que constituyen la base de una constitución de IA eficaz:

• Transparencia: Debe ser fácil entender cómo ha llegado un modelo a una respuesta. Si una respuesta se basa en hechos, estimaciones o patrones, esto debe quedar claro para el usuario. Esto genera confianza y ayuda a las personas a valorar si pueden fiarse de la salida del modelo.
• Igualdad: Las respuestas deben ser coherentes para distintos usuarios. El modelo no debe cambiar su salida en función del nombre, los antecedentes o la ubicación de una persona. La igualdad ayuda a prevenir los sesgos y fomenta un trato equitativo.
• Responsabilidad: Debe existir una forma de rastrear cómo se ha entrenado un modelo y qué ha influido en su comportamiento. Cuando algo sale mal, los equipos deben poder identificar la causa y mejorarla. Esto favorece la transparencia y la responsabilidad a largo plazo.
• Seguridad: Los modelos deben evitar generar contenido que pueda causar daños. Si una solicitud da lugar a salidas arriesgadas o inseguras, el sistema debe reconocerlo y detenerse. Esto protege tanto al usuario como a la integridad del sistema.

Ejemplos de IA constitucional en modelos de lenguaje grandes#

La IA constitucional ha pasado de la teoría a la práctica y ahora se utiliza poco a poco en modelos grandes que interactúan con millones de usuarios. Dos de los ejemplos más habituales son los LLM de OpenAI y Anthropic.

Aunque ambas organizaciones han seguido enfoques distintos para crear sistemas de IA más éticos, comparten una idea fundamental: enseñar al modelo a seguir un conjunto de principios rectores escritos. Veamos estos ejemplos con más detalle.

El enfoque de IA constitucional de OpenAI#

OpenAI introdujo un documento llamado Model Spec como parte del proceso de entrenamiento de sus modelos ChatGPT. Este documento actúa como una constitución. Describe aquello a lo que el modelo debe aspirar en sus respuestas, incluidos valores como la utilidad, la honestidad y la seguridad. También define qué se considera una salida dañina o engañosa.

Este marco se ha utilizado para ajustar los modelos de OpenAI mediante la valoración de las respuestas según el grado en que cumplen las normas. Con el tiempo, esto ha ayudado a dar forma a ChatGPT para que produzca menos salidas dañinas y se alinee mejor con lo que realmente quieren los usuarios.

Fig. 3. Ejemplo de ChatGPT utilizando el Model Spec de OpenAI para responder.

Modelos de IA ética de Anthropic#

La constitución que sigue el modelo Claude de Anthropic se basa en principios éticos de fuentes como la Declaración Universal de los Derechos Humanos, directrices de plataformas como las condiciones de servicio de Apple y estudios de otros laboratorios de IA. Estos principios ayudan a garantizar que las respuestas de Claude sean seguras, justas y estén alineadas con importantes valores humanos.

Claude también utiliza el aprendizaje por refuerzo a partir de comentarios de IA (RLAIF), mediante el cual revisa y ajusta sus propias respuestas basándose en estas directrices éticas, en lugar de depender de los comentarios humanos. Este proceso permite a Claude mejorar con el tiempo, ser más escalable y ofrecer respuestas útiles, éticas y no perjudiciales, incluso en situaciones complicadas.

Fig. 4. Comprender el enfoque de Anthropic para la IA constitucional.

Aplicación de la IA constitucional a la visión artificial#

Dado que la IA constitucional influye positivamente en el comportamiento de los modelos de lenguaje, surge de forma natural la pregunta: ¿podría un enfoque similar ayudar a los sistemas basados en visión a responder de forma más justa y segura?

Aunque los modelos de visión artificial trabajan con imágenes en lugar de texto, la necesidad de una orientación ética es igual de importante. Por ejemplo, la equidad y los sesgos son factores clave que deben tenerse en cuenta, ya que estos sistemas deben entrenarse para tratar a todo el mundo por igual y evitar resultados dañinos o injustos al analizar datos visuales.

Fig. 5. Retos éticos relacionados con la visión artificial. Imagen del autor.

Por el momento, el uso de métodos de IA constitucional en la visión artificial todavía se está explorando y se encuentra en sus primeras fases, mientras continúan las investigaciones en este ámbito.

Por ejemplo, Meta presentó recientemente CLUE, un marco que aplica un razonamiento similar al constitucional a tareas de seguridad de imágenes. Convierte amplias normas de seguridad en pasos precisos que la IA multimodal (sistemas de IA que procesan y entienden varios tipos de datos) puede seguir. Esto ayuda al sistema a razonar con mayor claridad y a reducir los resultados dañinos.

Además, CLUE hace más eficientes las evaluaciones de seguridad de imágenes al simplificar normas complejas, lo que permite a los modelos de IA actuar con rapidez y precisión sin necesitar una intervención humana exhaustiva. Al utilizar un conjunto de principios rectores, CLUE hace que los sistemas de moderación de imágenes sean más escalables y, al mismo tiempo, garantiza resultados de alta calidad.

Conclusiones clave#

A medida que los sistemas de IA asumen más responsabilidades, la atención está pasando de centrarse únicamente en lo que pueden hacer a centrarse en lo que deberían hacer. Este cambio es fundamental, ya que estos sistemas se utilizan en ámbitos que afectan directamente a la vida de las personas, como la sanidad, las fuerzas del orden y la educación.

Para garantizar que los sistemas de IA actúen de forma adecuada y ética, necesitan una base sólida y coherente. Esta base debe priorizar la equidad, la seguridad y la confianza.

Una constitución escrita puede proporcionar esa base durante el entrenamiento y orientar el proceso de toma de decisiones del sistema. También puede ofrecer a los desarrolladores un marco para revisar y ajustar el comportamiento del sistema después de su implementación, garantizando que siga alineado con los valores que se diseñó para defender y facilitando su adaptación a medida que surjan nuevos retos.

¡Únete hoy a nuestra creciente comunidad! Profundiza en la IA explorando nuestro repositorio de GitHub. ¿Quieres crear tus propios proyectos de visión artificial? Explora nuestras opciones de licencia. Descubre cómo la visión artificial en la sanidad mejora la eficiencia y explora el impacto de la IA en la fabricación visitando nuestras páginas de soluciones.