Equidade na IA

A equidade na IA é um domínio multidisciplinar dedicado a garantir que os sistemas de inteligência artificial não criam nem perpetuam resultados injustos para diferentes indivíduos ou grupos. Implica o desenvolvimento e a implementação de modelos que tratem todos os utilizadores de forma equitativa, independentemente dos seus antecedentes demográficos, como a raça, o sexo, a idade ou outras caraterísticas protegidas. Alcançar a equidade é uma componente crítica da construção de sistemas de IA fiáveis e responsáveis que beneficiem a sociedade como um todo. A procura da equidade vai para além da exatidão do modelo, centrando-se antes no impacto social e nas implicações éticas das decisões baseadas na IA.

Como é que a equidade difere de conceitos relacionados

Embora muitas vezes utilizados indistintamente, os termos equidade e afins têm significados distintos:

• Ética da IA: Trata-se de um domínio vasto que engloba todas as considerações éticas relacionadas com a inteligência artificial, incluindo a privacidade dos dados, a responsabilidade e a transparência na IA. A equidade é um princípio fundamental no quadro mais alargado da ética da IA.
• Preconceito na IA: O preconceito refere-se a erros sistemáticos ou preconceitos nos resultados de um sistema de IA, que muitas vezes resultam de dados de formação distorcidos ou de algoritmos defeituosos. A equidade é o objetivo proactivo de identificar e atenuar este preconceito para evitar resultados discriminatórios.
• Enviesamento algorítmico: Este é um tipo específico de enviesamento que tem origem no próprio algoritmo, em que a sua lógica pode favorecer inerentemente determinados grupos. As iniciativas de equidade visam corrigir o enviesamento algorítmico através de técnicas especializadas durante o desenvolvimento e a avaliação.

Aplicações do mundo real da equidade da IA

A implementação da equidade é essencial em aplicações de alto risco em que as decisões da IA podem afetar significativamente a vida das pessoas. Dois exemplos proeminentes incluem:

1. Serviços Financeiros Equitativos: Os modelos de IA são amplamente utilizados para avaliar a capacidade de crédito para empréstimos. Um modelo injusto pode negar empréstimos a candidatos qualificados de grupos minoritários a uma taxa mais elevada do que outros devido a preconceitos históricos nos dados de empréstimos. Um sistema de IA justo é concebido e testado para garantir que as suas recomendações de empréstimo não estão correlacionadas com caraterísticas protegidas, promovendo a igualdade de acesso a oportunidades financeiras, tal como defendido por instituições como o Fórum Económico Mundial.
2. Ferramentas de contratação imparciais: As empresas utilizam cada vez mais a IA para selecionar currículos e identificar candidatos promissores. No entanto, se um modelo for treinado com base em dados históricos de contratação que reflictam preconceitos passados no local de trabalho, pode penalizar injustamente as candidatas do sexo feminino ou os candidatos com nomes não tradicionais. Para contrariar esta situação, os programadores implementam restrições de equidade e realizam auditorias para garantir que a ferramenta avalia todos os candidatos com base apenas nas competências e qualificações, conforme investigado por organizações como a Society for Human Resource Management (SHRM).

Alcançar a equidade nos sistemas de IA

Alcançar a equidade é um processo contínuo que exige uma abordagem holística ao longo de todo o ciclo de vida da IA. As principais estratégias incluem:

• Tratamento cuidadoso dos dados: A recolha rigorosa de dados e as práticas de anotação são fundamentais para criar conjuntos de dados diversificados e representativos. Técnicas como o aumento de dados podem ajudar a equilibrar grupos sub-representados, e estruturas como as Fichas de dados para conjuntos de dados promovem a transparência.
• Algoritmos conscientes da equidade: Desenvolvimento ou adaptação de algoritmos de aprendizagem automática (ML) para incorporar explicitamente restrições de equidade durante a formação do modelo. Isto garante que o modelo optimiza tanto o desempenho como a equidade.
• Avaliação rigorosa: A realização de uma avaliação exaustiva do modelo utilizando métricas de equidade específicas é crucial para avaliar as disparidades de desempenho entre diferentes subgrupos. Ferramentas como a What-If Tool da Google e a AI Fairness 360 da IBM fornecem capacidades de deteção e mitigação de enviesamentos.
• Monitorização contínua: É necessário monitorizar continuamente o desempenho e a equidade do modelo após a sua implementação para detetar e resolver quaisquer problemas emergentes ou desvios de dados que possam introduzir novos enviesamentos ao longo do tempo.

Plataformas como o Ultralytics HUB fornecem ferramentas para formação e gestão de modelos personalizados, permitindo que os programadores seleccionem cuidadosamente conjuntos de dados e avaliem modelos como o Ultralytics YOLO11 quanto ao desempenho em diversos grupos. Isto apoia o desenvolvimento de soluções de visão computacional (CV) mais equitativas. A adesão a diretrizes éticas de organizações como a Partnership on AI e o seguimento de estruturas governamentais como a NIST AI Risk Management Framework são também passos vitais. A comunidade de investigação continua a desenvolver estes tópicos em locais como a Conferência ACM sobre Equidade, Responsabilidade e Transparência (FAccT).