Equidade na IA

Compreender a equidade na IA

A definição de equidade no contexto da IA é complexa, não existindo uma definição única universalmente aceite. Em vez disso, envolve múltiplos critérios matemáticos e princípios éticos destinados a evitar um tratamento injusto. Um desafio central é identificar e mitigar o enviesamento na IA, que pode ter várias origens. O enviesamento do conjunto de dados ocorre quando os dados de treino não representam com precisão a diversidade do mundo real, reflectindo frequentemente enviesamentos sociais históricos. O enviesamento algorítmico pode resultar da conceção do modelo ou do próprio processo de otimização. Existem diferentes definições matemáticas de equidade, como a paridade demográfica (os resultados são independentes de atributos sensíveis) e a igualdade de oportunidades (as taxas de verdadeiros positivos são iguais entre grupos). No entanto, atingir vários critérios de equidade em simultâneo pode ser matematicamente impossível, conforme salientado pela investigação neste domínio (por exemplo, ACM FAccT proceedings). Os programadores devem considerar cuidadosamente quais as definições de equidade mais adequadas para o seu contexto de aplicação específico.

Relevância e importância

A importância da equidade na IA é imensa devido ao seu potencial impacto social. Os sistemas de IA injustos podem conduzir a resultados discriminatórios em sectores cruciais como a contratação, a aprovação de empréstimos, a justiça penal e a análise de imagens médicas, prejudicando determinados grupos e limitando as oportunidades. Garantir a equidade não é apenas um imperativo ético, mas cada vez mais uma necessidade legal, com estruturas como a Estrutura de Gestão de Riscos de IA do NIST a orientar o desenvolvimento responsável. Dar prioridade à justiça ajuda a evitar danos, promove a equidade social e cria a confiança necessária para a adoção generalizada e responsável da IA. Isto alinha-se com os princípios mais amplos da Ética da IA, que também abrangem a responsabilidade, a transparência na IA e a privacidade dos dados.

Aplicações no mundo real

As considerações de equidade são vitais em muitas aplicações de IA. Eis dois exemplos:

1. Sistemasde reconhecimento facial: As primeiras tecnologias de reconhecimento facial mostraram disparidades significativas na precisão entre diferentes grupos demográficos, particularmente com pior desempenho em indivíduos com tons de pele mais escuros e mulheres(os estudos do NIST destacaram estas questões). Organizações como a Algorithmic Justice League (Liga da Justiça Algorítmica ) aumentaram a consciencialização, levando a esforços para criar conjuntos de dados de treino mais diversificados e desenvolver algoritmos menos propensos a esses enviesamentos, visando um desempenho equitativo em todos os grupos.
2. Ferramentas de contratação automatizadas: As ferramentas de IA utilizadas no recrutamento podem, inadvertidamente, aprender e perpetuar preconceitos presentes em dados históricos de contratação, filtrando potencialmente candidatos qualificados de grupos sub-representados. A aplicação de técnicas de equidade implica auditar os algoritmos para detetar preconceitos, utilizar métodos para ajustar as previsões e garantir que os critérios utilizados para a avaliação dos candidatos são relevantes e não discriminatórios. Isto é crucial para promover a igualdade de oportunidades de emprego, um aspeto fundamental discutido em áreas como a Visão por Computador em RH.

Distinguir a equidade de conceitos relacionados

Embora relacionada, a equidade na IA é distinta de vários outros conceitos:

• Ética da IA: Trata-se de um domínio mais vasto que engloba a justiça, a responsabilidade, a transparência, a privacidade, a segurança e o impacto social global da IA. A equidade é uma componente crucial no âmbito mais alargado da ética da IA.
• Preconceito na IA / Preconceito algorítmico: O preconceito refere-se a erros sistemáticos ou preconceitos num sistema de IA ou nos seus dados que conduzem a resultados injustos. A justiça é o objetivo de identificar e mitigar estes preconceitos. Compreender o enviesamento da IA é o primeiro passo para alcançar a equidade.
• IA explicável (XAI): A XAI centra-se em tornar os processos de decisão dos modelos de IA compreensíveis para os seres humanos. Embora distintas da equidade, as técnicas de XAI podem ser ferramentas essenciais para diagnosticar a razão pela qual um modelo pode estar a produzir resultados injustos, apoiando assim intervenções de equidade.

Alcançar a equidade

Alcançar a equidade na IA exige uma abordagem holística que envolva métodos técnicos e diligência processual ao longo do ciclo de vida da IA. As principais estratégias incluem:

• Manuseamento cuidadoso dos dados: A recolha rigorosa de dados e as práticas de anotação são essenciais para criar conjuntos de dados diversificados e representativos. Técnicas como a ampliação de dados podem ajudar a equilibrar os conjuntos de dados(Using Albumentations Augmentations to Diversify Your Data).
• Algoritmos conscientes da equidade: Desenvolver ou adaptar algoritmos de aprendizagem automática (ML) para incorporar explicitamente restrições de equidade durante a formação do modelo.
• Avaliação rigorosa: Efetuar uma avaliação exaustiva do modelo utilizando métricas de equidade específicas para avaliar as disparidades de desempenho entre diferentes subgrupos. Ferramentas como a What-If Tool daGoogle e a AI Fairness 360 da IBM fornecem capacidades de deteção e atenuação de preconceitos.
• Monitorização contínua: Monitoriza continuamente o desempenho e a equidade do modelo após a implementação para detetar e resolver quaisquer problemas emergentes ou desvios de dados.

Plataformas como o Ultralytics HUB fornecem ferramentas para a formação e gestão de modelos personalizados, permitindo que os programadores seleccionem cuidadosamente conjuntos de dados e avaliem modelos como Ultralytics YOLO11 para desempenho em diversos grupos, apoiando o desenvolvimento de soluções de visão computacional (CV) mais equitativas. A adesão a diretrizes éticas, como as da Partnership on AI, também é crucial.