La IA constitucional tiene como objetivo alinear los modelos de IA con los valores humanos

La inteligencia artificial (IA) se está convirtiendo rápidamente en una parte clave de nuestra vida cotidiana. Se está integrando en herramientas utilizadas en áreas como la sanidad, la contratación, las finanzas y la seguridad pública. A medida que estos sistemas se expanden, también surgen preocupaciones sobre su ética y fiabilidad.

Por ejemplo, a veces los sistemas de IA construidos sin considerar la equidad o la seguridad pueden producir resultados sesgados o poco fiables. Esto se debe a que muchos modelos aún no tienen una forma clara de reflejar y alinearse con los valores humanos.

Para abordar estos desafíos, los investigadores están explorando ahora un enfoque conocido como constitutional AI. En pocas palabras, introduce un conjunto escrito de principios en el proceso de entrenamiento del modelo. Estos principios ayudan a que el modelo juzgue su propio comportamiento, dependa menos de la retroalimentación humana y haga que las respuestas sean más seguras y fáciles de entender.

Hasta ahora, este enfoque se ha utilizado principalmente con respecto a los large language models (LLMs). Sin embargo, la misma estructura podría ayudar a guiar a los sistemas de computer vision para que tomen decisiones éticas al analizar datos visuales.

En este artículo, exploraremos cómo funciona la IA constitucional, veremos ejemplos de la vida real y discutiremos sus aplicaciones potenciales en sistemas de visión artificial.

Fig 1. Características de la IA constitucional. Imagen del autor.

¿Qué es la IA constitucional?#

La constitutional AI es un método de model training que guía cómo se comportan los modelos de IA al proporcionar un conjunto claro de reglas éticas. Estas reglas actúan como un código de conducta. En lugar de depender de que el modelo infiera qué es aceptable, sigue un conjunto escrito de principios que moldean sus respuestas durante el training.

Este concepto fue presentado por Anthropic, una empresa de investigación centrada en la seguridad de la IA que desarrolló la familia de LLM Claude como un método para hacer que los sistemas de IA sean más autosupervisados en su toma de decisiones.

En lugar de depender únicamente de la retroalimentación humana, el modelo aprende a criticar y refinar sus propias respuestas basándose en un conjunto predefinido de principios. Este enfoque es similar a un sistema legal, donde un juez consulta una constitución antes de emitir una sentencia.

En este caso, el modelo se convierte tanto en el juez como en el estudiante, utilizando el mismo conjunto de reglas para revisar y perfeccionar su propio comportamiento. Este proceso fortalece la alineación del modelo de IA y apoya el desarrollo de sistemas de IA seguros y responsible.

¿Cómo funciona la IA constitucional?#

El objetivo de la IA constitucional es enseñar a un modelo de IA a tomar decisiones seguras y justas siguiendo un conjunto claro de reglas escritas. Aquí tienes un desglose sencillo de cómo funciona este proceso:

• Definición de la constitución: Se crea una lista escrita de principios éticos que el modelo debe seguir. La constitución describe lo que la IA debe evitar y qué valores debe reflejar.
• Training con ejemplos supervised: Al modelo se le muestran respuestas de muestra que siguen la constitución. Estos ejemplos ayudan a que la IA entienda cómo es el comportamiento aceptable.
• Reconocimiento y aplicación de patrones: Con el tiempo, el modelo comienza a captar estos patrones. Aprende a aplicar los mismos valores al responder a nuevas preguntas o manejar nuevas situaciones.
• Crítica y refinamiento de resultados: El modelo revisa sus propias respuestas y las ajusta según la constitución. Esta fase de autoevaluación le ayuda a mejorar sin depender solo de la retroalimentación humana.
• Producción de respuestas alineadas y más seguras: El modelo aprende de reglas consistentes, lo que ayuda a reducir el sesgo y mejorar la fiabilidad en el uso en el mundo real. Este enfoque lo hace más alineado con los valores humanos y más fácil de gobernar.

Fig. 2. Descripción general del uso de IA constitucional para entrenar modelos.

Principios básicos del diseño de IA ética#

Para que un modelo de IA siga ethical rules, esas reglas deben definirse claramente primero. Cuando se trata de la constitutional AI, estas reglas se basan en un conjunto de principios fundamentales.

Por ejemplo, aquí tienes cuatro principios que forman la base de una constitución de IA efectiva:

• Transparency: Debe ser fácil entender cómo un modelo llegó a una respuesta. Si una respuesta se basa en hechos, estimaciones o patrones, será transparente para el usuario. Esto genera confianza y ayuda a las personas a juzgar si pueden confiar en el resultado del modelo.
• Igualdad: Las respuestas deben mantenerse consistentes entre diferentes usuarios. El modelo no debe cambiar su resultado basándose en el nombre, el trasfondo o la ubicación de una persona. La igualdad ayuda a prevenir el sesgo y promueve el trato equitativo.
• Responsabilidad: Debe haber una forma de rastrear cómo se entrenó un modelo y qué influyó en su comportamiento. Cuando algo sale mal, los equipos deberían ser capaces de identificar la causa y mejorarla. Esto apoya la transparencia y la rendición de cuentas a largo plazo.
• Seguridad: Los modelos deben evitar producir contenido que pueda causar daño. Si una solicitud conduce a resultados arriesgados o inseguros, el sistema debe reconocerlo y detenerse. Esto protege tanto al usuario como la integridad del sistema.

Ejemplos de IA constitucional en modelos de lenguaje extenso#

La constitutional AI ha pasado de la teoría a la práctica y ahora se está utilizando lentamente en grandes modelos que interactúan con millones de usuarios. Dos de los ejemplos más comunes son los LLM de OpenAI y Anthropic.

Aunque ambas organizaciones han adoptado enfoques diferentes para crear sistemas de IA más éticos, comparten una idea común: enseñar al modelo a seguir un conjunto de principios rectores escritos. Echemos un vistazo más de cerca a estos ejemplos.

El enfoque de IA constitucional de OpenAI#

OpenAI introdujo un documento llamado Model Spec como parte del proceso de entrenamiento para sus modelos ChatGPT. Este documento actúa como una constitución. Describe lo que el modelo debe buscar en sus respuestas, incluyendo valores como utilidad, honestidad y seguridad. También define qué cuenta como resultado dañino o engañoso.

Este marco se ha utilizado para ajustar los modelos de OpenAI calificando las respuestas según qué tan bien coinciden con las reglas. Con el tiempo, esto ha ayudado a moldear ChatGPT para que produzca menos resultados dañinos y se alinee mejor con lo que los usuarios realmente quieren.

Fig 3. Un ejemplo de ChatGPT usando la Model Spec de OpenAI para responder.

Modelos de IA ética de Anthropic#

La constitución que sigue el modelo Claude de Anthropic se basa en principios éticos de fuentes como la Declaración Universal de Derechos Humanos, directrices de plataforma como los términos de servicio de Apple e investigaciones de otros laboratorios de IA. Estos principios ayudan a garantizar que las respuestas de Claude sean seguras, justas y alineadas con valores humanos importantes.

Claude también utiliza el aprendizaje reforzado a partir de la retroalimentación de la IA (RLAIF), donde revisa y ajusta sus propias respuestas basándose en estas directrices éticas, en lugar de depender de la human feedback. Este proceso permite que Claude mejore con el tiempo, haciéndolo más escalable y mejor para proporcionar respuestas útiles, éticas y no dañinas, incluso en situaciones difíciles.

Fig 4. Entendiendo el enfoque de Anthropic hacia la constitutional AI.

Aplicación de la IA constitucional a la visión artificial#

Dado que la IA constitucional está influyendo positivamente en cómo se comportan los modelos de lenguaje, surge naturalmente la pregunta: ¿Podría un enfoque similar ayudar a que los sistemas basados en visión respondan de manera más justa y segura?

Aunque los computer vision models funcionan con imágenes en lugar de texto, la necesidad de orientación ética es igual de importante. Por ejemplo, la equidad y el sesgo son factores clave a considerar, ya que estos sistemas deben entrenarse para tratar a todos por igual y evitar resultados dañinos o injustos al analizar datos visuales.

Fig 5. Desafíos éticos relacionados con la visión artificial. Imagen del autor.

Por el momento, el uso de métodos de IA constitucional en la visión artificial todavía se está explorando y se encuentra en sus etapas iniciales, con investigaciones en curso en esta área.

Por ejemplo, Meta introdujo recientemente CLUE, un marco que aplica un razonamiento similar al constitucional a las tareas de seguridad de imágenes. Convierte reglas amplias de seguridad en pasos precisos que la IA multimodal (sistemas de IA que procesan y entienden múltiples tipos de datos) puede seguir. Esto ayuda a que el sistema razone con mayor claridad y reduzca los resultados dañinos.

Además, CLUE hace que los juicios de seguridad de imagen sean más eficientes al simplificar reglas complejas, permitiendo que los modelos de IA actúen de forma rápida y precisa sin necesidad de una extensa intervención humana. Al utilizar un conjunto de principios rectores, CLUE hace que los sistemas de moderación de imágenes sean más escalables mientras asegura resultados de alta calidad.

Conclusiones clave#

A medida que los sistemas de IA asumen más responsabilidades, el enfoque está cambiando de lo que simplemente pueden hacer a lo que deberían hacer. Este cambio es clave ya que estos sistemas se utilizan en áreas que impactan directamente en la vida de las personas, como la sanidad, la aplicación de la ley y la educación.

Para asegurar que los sistemas de IA actúen de manera apropiada y ética, necesitan una base sólida y consistente. Esta base debe priorizar la equidad, la seguridad y la confianza.

Una constitución escrita puede proporcionar esa base durante el entrenamiento, guiando el proceso de toma de decisiones del sistema. También puede dar a los desarrolladores un marco para revisar y ajustar el comportamiento del sistema después de su despliegue, asegurando que continúe alineándose con los valores que fue diseñado para defender y haciendo que sea más fácil adaptarse a medida que surjan nuevos desafíos.

¡Únete a nuestra creciente community hoy mismo! Profundiza en la IA explorando nuestro GitHub repository. ¿Buscas construir tus propios proyectos de computer vision? Explora nuestras licensing options. ¡Aprende cómo el computer vision in healthcare está mejorando la eficiencia y explora el impacto de la AI in manufacturing visitando nuestras páginas de soluciones!