A IA constitucional procura alinhar os modelos de IA com os valores humanos

A inteligência artificial (AI) está a tornar-se rapidamente uma parte fundamental da nossa vida quotidiana. Está a ser integrada em ferramentas utilizadas em áreas como os cuidados de saúde, o recrutamento, as finanças e a segurança pública. À medida que estes sistemas se expandem, também se têm levantado preocupações sobre a sua ética e fiabilidade.

Por exemplo, por vezes, os sistemas de IA desenvolvidos sem ter em conta a equidade ou a segurança podem produzir resultados tendenciosos ou pouco fiáveis. Isto acontece porque muitos modelos ainda não têm uma forma clara de refletir e alinhar-se com os valores humanos.

Para responder a estes desafios, os investigadores estão agora a explorar uma abordagem conhecida como IA constitucional. Em termos simples, esta abordagem introduz um conjunto escrito de princípios no processo de treino do modelo. Estes princípios ajudam o modelo a avaliar o seu próprio comportamento, a depender menos do feedback humano e a criar respostas mais seguras e fáceis de compreender.

Até agora, esta abordagem tem sido utilizada sobretudo no contexto dos grandes modelos de linguagem (LLMs). No entanto, a mesma estrutura poderia ajudar a orientar sistemas de visão computacional para tomarem decisões éticas ao analisar dados visuais.

Neste artigo, vamos explorar como funciona a IA constitucional, analisar exemplos reais e discutir as suas potenciais aplicações em sistemas de visão computacional.

Fig. 1. Características da IA constitucional. Imagem do autor.

O que é a IA constitucional?#

A IA constitucional é um método de treino de modelos que orienta o comportamento dos modelos de IA através de um conjunto claro de regras éticas. Estas regras funcionam como um código de conduta. Em vez de depender da capacidade do modelo para inferir o que é aceitável, o modelo segue um conjunto escrito de princípios que moldam as suas respostas durante o treino.

Este conceito foi introduzido pela Anthropic, uma empresa de investigação focada na segurança da IA que desenvolveu a família de LLMs Claude como método para tornar os sistemas de IA mais capazes de supervisionar as suas próprias decisões.

Em vez de depender exclusivamente do feedback humano, o modelo aprende a criticar e aperfeiçoar as suas próprias respostas com base num conjunto predefinido de princípios. Esta abordagem é semelhante a um sistema jurídico, no qual um juiz consulta uma constituição antes de proferir uma decisão.

Neste caso, o modelo torna-se simultaneamente o juiz e o aluno, utilizando o mesmo conjunto de regras para rever e aperfeiçoar o seu próprio comportamento. Este processo reforça o alinhamento do modelo de IA e apoia o desenvolvimento de sistemas de IA responsáveis e seguros.

Como funciona a IA constitucional?#

O objetivo da IA constitucional é ensinar um modelo de IA a tomar decisões seguras e justas seguindo um conjunto claro de regras escritas. Eis uma explicação simples de como este processo funciona:

• Definir a constituição: É criada uma lista escrita de princípios éticos que o modelo deve seguir. A constituição especifica o que a IA deve evitar e quais os valores que deve refletir.
• Treinar com exemplos supervisionados: São apresentadas ao modelo respostas de exemplo que seguem a constituição. Estes exemplos ajudam a IA a compreender como é um comportamento aceitável.
• Reconhecer e aplicar padrões: Com o tempo, o modelo começa a identificar estes padrões. Aprende a aplicar os mesmos valores ao responder a novas perguntas ou ao lidar com novas situações.
• Criticar e aperfeiçoar os resultados: O modelo revê as suas próprias respostas e ajusta-as com base na constituição. Esta fase de autorrevisão ajuda-o a melhorar sem depender apenas do feedback humano.
• Produzir respostas alinhadas e mais seguras: O modelo aprende com regras consistentes, o que ajuda a reduzir o viés e a melhorar a fiabilidade na utilização no mundo real. Esta abordagem torna-o mais alinhado com os valores humanos e mais fácil de governar.

Fig. 2. Uma visão geral da utilização da IA constitucional para treinar modelos.

Princípios fundamentais da conceção de IA ética#

Para que um modelo de IA siga regras éticas, essas regras têm primeiro de ser claramente definidas. No caso da IA constitucional, estas regras baseiam-se num conjunto de princípios fundamentais.

Por exemplo, eis quatro princípios que constituem a base de uma constituição de IA eficaz:

• Transparência: Deve ser fácil compreender como um modelo chegou a uma resposta. Se uma resposta se basear em factos, estimativas ou padrões, isso deve ser transparente para o utilizador. Isto gera confiança e ajuda as pessoas a avaliar se podem confiar no resultado do modelo.
• Igualdade: As respostas devem manter-se consistentes entre diferentes utilizadores. O modelo não deve alterar o seu resultado com base no nome, na origem ou na localização de uma pessoa. A igualdade ajuda a evitar o viés e promove um tratamento equitativo.
• Responsabilização: Deve existir uma forma de rastrear como um modelo foi treinado e o que influenciou o seu comportamento. Quando algo corre mal, as equipas devem conseguir identificar a causa e melhorá-la. Isto apoia a transparência e a responsabilização a longo prazo.
• Segurança: Os modelos devem evitar produzir conteúdo que possa causar danos. Se um pedido conduzir a resultados arriscados ou inseguros, o sistema deve reconhecer essa situação e parar. Isto protege tanto o utilizador como a integridade do sistema.

Exemplos de IA constitucional em grandes modelos de linguagem#

A IA constitucional passou da teoria à prática e está agora a ser lentamente utilizada em grandes modelos que interagem com milhões de utilizadores. Dois dos exemplos mais comuns são os LLMs da OpenAI e da Anthropic.

Embora ambas as organizações tenham adotado abordagens diferentes para criar sistemas de IA mais éticos, partilham uma ideia comum: ensinar o modelo a seguir um conjunto de princípios orientadores escritos. Vejamos estes exemplos mais de perto.

A abordagem da OpenAI à IA constitucional#

A OpenAI introduziu um documento denominado Model Spec como parte do processo de treino dos seus modelos ChatGPT. Este documento funciona como uma constituição. Especifica aquilo que o modelo deve procurar alcançar nas suas respostas, incluindo valores como utilidade, honestidade e segurança. Também define o que é considerado um resultado prejudicial ou enganador.

Esta estrutura tem sido utilizada para afinar os modelos da OpenAI, avaliando as respostas de acordo com o grau de correspondência com as regras. Com o tempo, isto ajudou a moldar o ChatGPT para produzir menos resultados prejudiciais e alinhar-se melhor com aquilo que os utilizadores realmente pretendem.

Fig. 3. Um exemplo de como o ChatGPT utiliza o Model Spec da OpenAI para responder.

Modelos de IA ética da Anthropic#

A constituição seguida pelo modelo Claude, da Anthropic, baseia-se em princípios éticos de fontes como a Declaração Universal dos Direitos Humanos, em diretrizes de plataformas como os termos de serviço da Apple e em investigação de outros laboratórios de IA. Estes princípios ajudam a garantir que as respostas do Claude são seguras, justas e alinhadas com valores humanos importantes.

O Claude também utiliza a Aprendizagem por reforço a partir de feedback de IA (RLAIF), na qual revê e ajusta as suas próprias respostas com base nestas diretrizes éticas, em vez de depender de feedback humano. Este processo permite ao Claude melhorar ao longo do tempo, tornando-o mais escalável e mais eficaz a fornecer respostas úteis, éticas e não prejudiciais, mesmo em situações complexas.

Fig. 4. Compreender a abordagem da Anthropic à IA constitucional.

Aplicar a IA constitucional à visão computacional#

Uma vez que a IA constitucional está a influenciar positivamente o comportamento dos modelos de linguagem, surge naturalmente a questão: poderá uma abordagem semelhante ajudar os sistemas baseados em visão a responder de forma mais justa e segura?

Embora os modelos de visão computacional trabalhem com imagens em vez de texto, a necessidade de orientação ética é igualmente importante. Por exemplo, a equidade e o viés são fatores fundamentais a considerar, uma vez que estes sistemas precisam de ser treinados para tratar todas as pessoas de forma igual e evitar resultados prejudiciais ou injustos ao analisar dados visuais.

Fig. 5. Desafios éticos relacionados com a visão computacional. Imagem do autor.

Atualmente, a utilização de métodos de IA constitucional em visão computacional ainda está a ser explorada e encontra-se numa fase inicial, com investigação contínua nesta área.

Por exemplo, a Meta introduziu recentemente o CLUE, uma estrutura que aplica um raciocínio semelhante ao constitucional a tarefas de segurança de imagens. Esta estrutura transforma regras gerais de segurança em passos precisos que a IA multimodal (sistemas de IA que processam e compreendem vários tipos de dados) pode seguir. Isto ajuda o sistema a raciocinar com mais clareza e a reduzir resultados prejudiciais.

Além disso, o CLUE torna as decisões de segurança de imagens mais eficientes ao simplificar regras complexas, permitindo que os modelos de IA atuem de forma rápida e precisa sem necessitarem de uma intervenção humana extensa. Ao utilizar um conjunto de princípios orientadores, o CLUE torna os sistemas de moderação de imagens mais escaláveis, garantindo simultaneamente resultados de elevada qualidade.

Principais conclusões#

À medida que os sistemas de IA assumem mais responsabilidades, o foco está a passar daquilo que conseguem fazer para aquilo que devem fazer. Esta mudança é fundamental, uma vez que estes sistemas são utilizados em áreas que têm um impacto direto na vida das pessoas, como os cuidados de saúde, a aplicação da lei e a educação.

Para garantir que os sistemas de IA atuam de forma adequada e ética, precisam de uma base sólida e consistente. Esta base deve dar prioridade à equidade, à segurança e à confiança.

Uma constituição escrita pode fornecer essa base durante o treino, orientando o processo de tomada de decisões do sistema. Também pode proporcionar aos programadores uma estrutura para rever e ajustar o comportamento do sistema após a implementação, garantindo que este continua alinhado com os valores que foi concebido para defender e tornando mais fácil adaptá-lo à medida que surgem novos desafios.

Junta-te hoje à nossa crescente comunidade! Aprofunda os teus conhecimentos sobre IA explorando o nosso repositório do GitHub. Queres desenvolver os teus próprios projetos de visão computacional? Explora as nossas opções de licenciamento. Descobre como a visão computacional nos cuidados de saúde está a melhorar a eficiência e explora o impacto da IA na indústria visitando as nossas páginas de soluções!