A IA constitucional busca alinhar modelos de IA a valores humanos

A inteligência artificial (IA) está se tornando rapidamente uma parte essencial do nosso dia a dia. Ela está sendo integrada a ferramentas usadas em áreas como saúde, recrutamento, finanças e segurança pública. À medida que esses sistemas se expandem, também aumentam as preocupações com sua ética e confiabilidade.

Por exemplo, às vezes os sistemas de IA desenvolvidos sem levar em conta a imparcialidade ou a segurança podem produzir resultados tendenciosos ou pouco confiáveis. Isso acontece porque muitos modelos ainda não têm uma maneira clara de refletir os valores humanos e se alinhar a eles.

Para enfrentar esses desafios, pesquisadores estão explorando uma abordagem conhecida como IA constitucional. Em termos simples, ela introduz um conjunto escrito de princípios no processo de treinamento do modelo. Esses princípios ajudam o modelo a avaliar o próprio comportamento, depender menos do feedback humano e produzir respostas mais seguras e fáceis de entender.

Até agora, essa abordagem tem sido usada principalmente com relação a grandes modelos de linguagem (LLMs). No entanto, a mesma estrutura poderia ajudar a orientar sistemas de visão computacional para que tomem decisões éticas ao analisar dados visuais.

Neste artigo, vamos explorar como funciona a IA constitucional, analisar exemplos reais e discutir suas possíveis aplicações em sistemas de visão computacional.

Fig. 1. Características da IA constitucional. Imagem do autor.

O que é IA constitucional?#

A IA constitucional é um método de treinamento de modelos que orienta o comportamento dos modelos de IA ao fornecer um conjunto claro de regras éticas. Essas regras funcionam como um código de conduta. Em vez de depender do modelo para deduzir o que é aceitável, ele segue um conjunto escrito de princípios que moldam suas respostas durante o treinamento.

Esse conceito foi introduzido pela Anthropic, uma empresa de pesquisa focada na segurança da IA que desenvolveu a família de LLMs Claude como um método para tornar os sistemas de IA mais capazes de supervisionar a própria tomada de decisões.

Em vez de depender exclusivamente do feedback humano, o modelo aprende a criticar e aprimorar as próprias respostas com base em um conjunto predefinido de princípios. Essa abordagem é semelhante a um sistema jurídico, no qual um juiz consulta uma constituição antes de tomar uma decisão.

Nesse caso, o modelo se torna juiz e aluno ao mesmo tempo, usando o mesmo conjunto de regras para revisar e aprimorar o próprio comportamento. Esse processo fortalece o alinhamento dos modelos de IA e apoia o desenvolvimento de sistemas de IA seguros e responsáveis.

Como funciona a IA constitucional?#

O objetivo da IA constitucional é ensinar um modelo de IA a tomar decisões seguras e imparciais seguindo um conjunto claro de regras escritas. Veja uma explicação simples de como esse processo funciona:

• Definição da constituição: Cria-se uma lista escrita de princípios éticos que o modelo deve seguir. A constituição define o que a IA deve evitar e quais valores deve refletir.
• Treinamento com exemplos supervisionados: O modelo recebe exemplos de respostas que seguem a constituição. Esses exemplos ajudam a IA a entender como é um comportamento aceitável.
• Reconhecimento e aplicação de padrões: Com o tempo, o modelo começa a identificar esses padrões. Ele aprende a aplicar os mesmos valores ao responder a novas perguntas ou lidar com novas situações.
• Crítica e aprimoramento das respostas: O modelo revisa as próprias respostas e as ajusta com base na constituição. Essa etapa de autorrevisão ajuda a aprimorá-lo sem depender apenas do feedback humano.
• Produção de respostas alinhadas e mais seguras: O modelo aprende com regras consistentes, o que ajuda a reduzir vieses e melhorar a confiabilidade no uso no mundo real. Essa abordagem o alinha melhor aos valores humanos e facilita sua governança.

Fig. 2. Visão geral do uso da IA constitucional para treinar modelos.

Princípios fundamentais do design ético de IA#

Para que um modelo de IA siga regras éticas, elas precisam ser claramente definidas primeiro. No caso da IA constitucional, essas regras se baseiam em um conjunto de princípios fundamentais.

Por exemplo, estes são quatro princípios que formam a base de uma constituição de IA eficaz:

• Transparência: Deve ser fácil entender como o modelo chegou a uma resposta. Se uma resposta se basear em fatos, estimativas ou padrões, isso deve ficar transparente para o usuário. Isso gera confiança e ajuda as pessoas a avaliar se podem confiar na resposta do modelo.
• Igualdade: As respostas devem ser consistentes para diferentes usuários. O modelo não deve alterar sua resposta com base no nome, na origem ou na localização de uma pessoa. A igualdade ajuda a prevenir vieses e promove tratamento igualitário.
• Responsabilização: Deve haver uma maneira de rastrear como um modelo foi treinado e o que influenciou seu comportamento. Quando algo dá errado, as equipes devem conseguir identificar a causa e corrigi-la. Isso promove transparência e responsabilização a longo prazo.
• Segurança: Os modelos devem evitar gerar conteúdo que possa causar danos. Se uma solicitação levar a resultados arriscados ou inseguros, o sistema deve reconhecer isso e parar. Isso protege tanto o usuário quanto a integridade do sistema.

Exemplos de IA constitucional em grandes modelos de linguagem#

A IA constitucional deixou de ser apenas teórica e agora está começando a ser usada em grandes modelos que interagem com milhões de usuários. Dois dos exemplos mais comuns são os LLMs da OpenAI e da Anthropic.

Embora as duas organizações tenham adotado abordagens diferentes para criar sistemas de IA mais éticos, elas compartilham uma ideia: ensinar o modelo a seguir um conjunto de princípios orientadores escritos. Vamos analisar esses exemplos mais de perto.

A abordagem de IA constitucional da OpenAI#

A OpenAI introduziu um documento chamado Model Spec como parte do processo de treinamento de seus modelos ChatGPT. Esse documento funciona como uma constituição. Ele descreve o que o modelo deve priorizar em suas respostas, incluindo valores como prestatividade, honestidade e segurança. Também define o que é considerado um resultado nocivo ou enganoso.

Essa estrutura foi usada para ajustar os modelos da OpenAI, classificando as respostas de acordo com o quanto correspondiam às regras. Com o tempo, isso ajudou a moldar o ChatGPT para que produza menos resultados nocivos e se alinhe melhor ao que os usuários realmente querem.

Fig. 3. Um exemplo de uso do Model Spec da OpenAI pelo ChatGPT para responder.

Os modelos éticos de IA da Anthropic#

A constituição seguida pelo modelo Claude, da Anthropic, baseia-se em princípios éticos de fontes como a Declaração Universal dos Direitos Humanos, diretrizes de plataformas como os termos de serviço da Apple e pesquisas de outros laboratórios de IA. Esses princípios ajudam a garantir que as respostas do Claude sejam seguras, imparciais e alinhadas a valores humanos importantes.

O Claude também usa aprendizado por reforço com feedback de IA (RLAIF), no qual revisa e ajusta as próprias respostas com base nessas diretrizes éticas, em vez de depender do feedback humano. Esse processo permite que o Claude melhore com o tempo, tornando-o mais escalável e mais capaz de fornecer respostas úteis, éticas e inofensivas, mesmo em situações delicadas.

Fig. 4. Entenda a abordagem da Anthropic à IA constitucional.

Aplicando a IA constitucional à visão computacional#

Como a IA constitucional está influenciando positivamente o comportamento dos modelos de linguagem, surge naturalmente a pergunta: uma abordagem semelhante poderia ajudar sistemas baseados em visão a responder de forma mais imparcial e segura?

Embora os modelos de visão computacional trabalhem com imagens em vez de texto, a necessidade de orientação ética é igualmente importante. Por exemplo, a imparcialidade e os vieses são fatores fundamentais a considerar, pois esses sistemas precisam ser treinados para tratar todos igualmente e evitar resultados nocivos ou injustos ao analisar dados visuais.

Fig. 5. Desafios éticos relacionados à visão computacional. Imagem do autor.

No momento, o uso de métodos de IA constitucional em visão computacional ainda está sendo explorado e encontra-se em estágio inicial, com pesquisas em andamento nessa área.

Por exemplo, a Meta apresentou recentemente o CLUE, uma estrutura que aplica um raciocínio semelhante ao constitucional a tarefas de segurança de imagens. Ela transforma regras gerais de segurança em etapas precisas que a IA multimodal (sistemas de IA que processam e entendem vários tipos de dados) pode seguir. Isso ajuda o sistema a raciocinar com mais clareza e reduzir resultados nocivos.

Além disso, o CLUE torna mais eficientes as avaliações de segurança de imagens ao simplificar regras complexas, permitindo que os modelos de IA ajam com rapidez e precisão sem precisar de uma contribuição humana extensa. Ao usar um conjunto de princípios orientadores, o CLUE torna os sistemas de moderação de imagens mais escaláveis e garante resultados de alta qualidade.

Principais conclusões#

À medida que os sistemas de IA assumem mais responsabilidades, o foco está mudando do que eles podem fazer para o que devem fazer. Essa mudança é fundamental, já que esses sistemas são usados em áreas que afetam diretamente a vida das pessoas, como saúde, aplicação da lei e educação.

Para garantir que os sistemas de IA ajam de forma adequada e ética, eles precisam de uma base sólida e consistente. Essa base deve priorizar a imparcialidade, a segurança e a confiança.

Uma constituição escrita pode fornecer essa base durante o treinamento, orientando o processo de tomada de decisões do sistema. Ela também pode oferecer aos desenvolvedores uma estrutura para revisar e ajustar o comportamento do sistema após a implantação, garantindo que ele continue alinhado aos valores que deveria defender e facilitando sua adaptação diante de novos desafios.

Participe hoje da nossa crescente comunidade! Aprofunde seus conhecimentos sobre IA explorando nosso repositório do GitHub. Quer criar seus próprios projetos de visão computacional? Conheça nossas opções de licenciamento. Saiba como a visão computacional na área da saúde está melhorando a eficiência e explore o impacto da IA na manufatura visitando nossas páginas de soluções!