La IA constitucional tiene como objetivo alinear los modelos de IA con los valores humanos

La inteligencia artificial (IA) se está convirtiendo rápidamente en una parte clave de nuestra vida cotidiana. Se está integrando en herramientas utilizadas en áreas como la sanidad, la contratación, las finanzas y la seguridad pública. A medida que estos sistemas se expanden, también surgen preocupaciones sobre su ética y fiabilidad.

Por ejemplo, a veces los sistemas de IA construidos sin considerar la equidad o la seguridad pueden producir resultados sesgados o poco fiables. Esto se debe a que muchos modelos aún no tienen una forma clara de reflejar y alinearse con los valores humanos.

Para abordar estos desafíos, los investigadores están explorando ahora un enfoque conocido como IA constitucional. Dicho de forma sencilla, introduce un conjunto escrito de principios en el proceso de entrenamiento del modelo. Estos principios ayudan al modelo a juzgar su propio comportamiento, a depender menos de la retroalimentación humana y a hacer que sus respuestas sean más seguras y fáciles de entender.

Hasta ahora, este enfoque se ha utilizado principalmente en relación con los modelos de lenguaje extenso (LLM). Sin embargo, la misma estructura podría ayudar a guiar a los sistemas de visión artificial a tomar decisiones éticas mientras analizan datos visuales.

En este artículo, exploraremos cómo funciona la IA constitucional, veremos ejemplos de la vida real y discutiremos sus aplicaciones potenciales en sistemas de visión artificial.

Fig 1. Características de la IA constitucional. Imagen del autor.

Link to this section¿Qué es la IA constitucional?#

La IA constitucional es un método de entrenamiento de modelos que guía el comportamiento de los modelos de IA mediante un conjunto claro de reglas éticas. Estas reglas actúan como un código de conducta. En lugar de confiar en que el modelo infiera lo que es aceptable, sigue un conjunto escrito de principios que moldean sus respuestas durante el entrenamiento.

Este concepto fue introducido por Anthropic, una empresa de investigación centrada en la seguridad de la IA que desarrolló la familia de LLM Claude como un método para hacer que los sistemas de IA sean más autosupervisados en su toma de decisiones.

En lugar de depender únicamente de la retroalimentación humana, el modelo aprende a criticar y refinar sus propias respuestas basándose en un conjunto predefinido de principios. Este enfoque es similar a un sistema legal, donde un juez consulta una constitución antes de emitir una sentencia.

En este caso, el modelo se convierte tanto en juez como en alumno, utilizando el mismo conjunto de reglas para revisar y refinar su propio comportamiento. Este proceso fortalece la alineación de los modelos de IA y apoya el desarrollo de sistemas de IA seguros y responsables.

Link to this section¿Cómo funciona la IA constitucional?#

El objetivo de la IA constitucional es enseñar a un modelo de IA a tomar decisiones seguras y justas siguiendo un conjunto claro de reglas escritas. Aquí tienes un desglose sencillo de cómo funciona este proceso:

• Definición de la constitución: Se crea una lista escrita de principios éticos que el modelo debe seguir. La constitución describe lo que la IA debe evitar y qué valores debe reflejar.
• Entrenamiento con ejemplos supervisados: Al modelo se le muestran ejemplos de respuestas que siguen la constitución. Estos ejemplos ayudan a la IA a entender cómo es un comportamiento aceptable.
• Reconocimiento y aplicación de patrones: Con el tiempo, el modelo comienza a captar estos patrones. Aprende a aplicar los mismos valores al responder a nuevas preguntas o manejar nuevas situaciones.
• Crítica y refinamiento de resultados: El modelo revisa sus propias respuestas y las ajusta según la constitución. Esta fase de autoevaluación le ayuda a mejorar sin depender solo de la retroalimentación humana.
• Producción de respuestas alineadas y más seguras: El modelo aprende de reglas consistentes, lo que ayuda a reducir el sesgo y mejorar la fiabilidad en el uso en el mundo real. Este enfoque lo hace más alineado con los valores humanos y más fácil de gobernar.

Fig. 2. Descripción general del uso de IA constitucional para entrenar modelos.

Link to this sectionPrincipios básicos del diseño de IA ética#

Para que un modelo de IA siga reglas éticas, esas reglas deben estar claramente definidas primero. Cuando se trata de IA constitucional, estas reglas se basan en un conjunto de principios fundamentales.

Por ejemplo, aquí tienes cuatro principios que forman la base de una constitución de IA efectiva:

• Transparencia: Debería ser fácil entender cómo llegó un modelo a una respuesta. Si una respuesta se basa en hechos, estimaciones o patrones, será transparente para el usuario. Esto genera confianza y ayuda a las personas a juzgar si pueden confiar en el resultado del modelo.
• Igualdad: Las respuestas deben mantenerse consistentes entre diferentes usuarios. El modelo no debe cambiar su resultado basándose en el nombre, el trasfondo o la ubicación de una persona. La igualdad ayuda a prevenir el sesgo y promueve el trato equitativo.
• Responsabilidad: Debe haber una forma de rastrear cómo se entrenó un modelo y qué influyó en su comportamiento. Cuando algo sale mal, los equipos deberían ser capaces de identificar la causa y mejorarla. Esto apoya la transparencia y la rendición de cuentas a largo plazo.
• Seguridad: Los modelos deben evitar producir contenido que pueda causar daño. Si una solicitud conduce a resultados arriesgados o inseguros, el sistema debe reconocerlo y detenerse. Esto protege tanto al usuario como la integridad del sistema.

Link to this sectionEjemplos de IA constitucional en modelos de lenguaje extenso#

La IA constitucional ha pasado de la teoría a la práctica y ahora se está utilizando lentamente en grandes modelos que interactúan con millones de usuarios. Dos de los ejemplos más comunes son los LLM de OpenAI y Anthropic.

Aunque ambas organizaciones han adoptado enfoques diferentes para crear sistemas de IA más éticos, comparten una idea común: enseñar al modelo a seguir un conjunto de principios rectores escritos. Echemos un vistazo más de cerca a estos ejemplos.

Link to this sectionEl enfoque de IA constitucional de OpenAI#

OpenAI introdujo un documento llamado Model Spec como parte del proceso de entrenamiento para sus modelos ChatGPT. Este documento actúa como una constitución. Describe lo que el modelo debe buscar en sus respuestas, incluyendo valores como utilidad, honestidad y seguridad. También define qué cuenta como resultado dañino o engañoso.

Este marco se ha utilizado para ajustar los modelos de OpenAI calificando las respuestas según qué tan bien coinciden con las reglas. Con el tiempo, esto ha ayudado a dar forma a ChatGPT para que produzca menos resultados dañinos y se alinee mejor con lo que los usuarios realmente quieren.

Fig 3. Un ejemplo de ChatGPT utilizando el Model Spec de OpenAI para responder.

Link to this sectionModelos de IA ética de Anthropic#

La constitución que sigue el modelo Claude de Anthropic se basa en principios éticos de fuentes como la Declaración Universal de Derechos Humanos, directrices de plataforma como los términos de servicio de Apple e investigaciones de otros laboratorios de IA. Estos principios ayudan a garantizar que las respuestas de Claude sean seguras, justas y alineadas con valores humanos importantes.

Claude también utiliza el Aprendizaje por Refuerzo a partir de la Retroalimentación de la IA (RLAIF), donde revisa y ajusta sus propias respuestas basándose en estas pautas éticas, en lugar de depender de la retroalimentación humana. Este proceso permite a Claude mejorar con el tiempo, haciéndolo más escalable y mejor a la hora de proporcionar respuestas útiles, éticas y no dañinas, incluso en situaciones complicadas.

Fig 4. Entendiendo el enfoque de Anthropic hacia la IA constitucional.

Link to this sectionAplicación de la IA constitucional a la visión artificial#

Dado que la IA constitucional está influyendo positivamente en cómo se comportan los modelos de lenguaje, surge naturalmente la pregunta: ¿Podría un enfoque similar ayudar a que los sistemas basados en visión respondan de manera más justa y segura?

Aunque los modelos de visión artificial trabajan con imágenes en lugar de texto, la necesidad de orientación ética es igual de importante. Por ejemplo, la equidad y el sesgo son factores clave a considerar, ya que estos sistemas deben ser entrenados para tratar a todos por igual y evitar resultados dañinos o injustos al analizar datos visuales.

Fig 5. Desafíos éticos relacionados con la visión artificial. Imagen del autor.

Por el momento, el uso de métodos de IA constitucional en la visión artificial todavía se está explorando y se encuentra en sus etapas iniciales, con investigaciones en curso en esta área.

Por ejemplo, Meta introdujo recientemente CLUE, un marco que aplica un razonamiento similar al constitucional a tareas de seguridad de imagen. Convierte reglas generales de seguridad en pasos precisos que la IA multimodal (sistemas de IA que procesan y entienden múltiples tipos de datos) puede seguir. Esto ayuda al sistema a razonar con mayor claridad y reducir los resultados dañinos.

Además, CLUE hace que los juicios de seguridad de imagen sean más eficientes al simplificar reglas complejas, permitiendo que los modelos de IA actúen de forma rápida y precisa sin necesidad de una extensa intervención humana. Al utilizar un conjunto de principios rectores, CLUE hace que los sistemas de moderación de imágenes sean más escalables mientras asegura resultados de alta calidad.

Link to this sectionConclusiones clave#

A medida que los sistemas de IA asumen más responsabilidades, el enfoque está cambiando de lo que simplemente pueden hacer a lo que deberían hacer. Este cambio es clave ya que estos sistemas se utilizan en áreas que impactan directamente en la vida de las personas, como la sanidad, la aplicación de la ley y la educación.

Para asegurar que los sistemas de IA actúen de manera apropiada y ética, necesitan una base sólida y consistente. Esta base debe priorizar la equidad, la seguridad y la confianza.

Una constitución escrita puede proporcionar esa base durante el entrenamiento, guiando el proceso de toma de decisiones del sistema. También puede dar a los desarrolladores un marco para revisar y ajustar el comportamiento del sistema después de su despliegue, asegurando que continúe alineándose con los valores que fue diseñado para defender y haciendo que sea más fácil adaptarse a medida que surjan nuevos desafíos.

¡Únete a nuestra creciente comunidad hoy mismo! Profundiza en la IA explorando nuestro repositorio de GitHub. ¿Buscas crear tus propios proyectos de visión artificial? Explora nuestras opciones de licencia. ¡Aprende cómo la visión artificial en la sanidad está mejorando la eficiencia y explora el impacto de la IA en la fabricación visitando nuestras páginas de soluciones!