Algorithmic Bias

O viés algorítmico refere-se a erros sistemáticos e repetíveis num sistema informático que criam resultados injustos, como favorecer arbitrariamente um grupo de utilizadores em detrimento de outros. No contexto da Inteligência Artificial (AI), este fenómeno ocorre quando um modelo de Aprendizagem Automática (ML) produz resultados consistentemente enviesados contra determinados grupos demográficos ou cenários. Ao contrário dos erros aleatórios, que constituem ruído imprevisível, o viés algorítmico reflete uma falha estrutural na forma como o modelo foi concebido, treinado ou implementado. Abordar estes vieses é um aspeto fundamental da Ética da IA e é essencial para criar confiança nos sistemas automatizados de tomada de decisões.

Origens e mecanismos#

O viés pode infiltrar-se nos sistemas de IA por várias vias. A fonte mais comum são dados de treino não representativos. Se um modelo de visão computacional (CV) for treinado principalmente com imagens de uma região geográfica, poderá ter dificuldades em reconhecer objetos ou cenas de outras partes do mundo. Isto é frequentemente referido como viés do conjunto de dados. No entanto, o próprio algoritmo — a lógica matemática que processa os dados — também pode introduzir viés. Por exemplo, um algoritmo de otimização concebido para maximizar a acurácia global pode sacrificar o desempenho em subgrupos menores e sub-representados para alcançar uma pontuação total mais elevada.

Aplicações e consequências no mundo real#

O impacto do viés algorítmico é significativo em vários setores, sobretudo quando os sistemas automatizados tomam decisões de alto risco.

• Diagnóstico médico: Na IA na área da saúde, os modelos são utilizados para detetar doenças a partir de imagens médicas. Estudos demonstraram que alguns algoritmos eram menos precisos no diagnóstico de cancro da pele em tons de pele mais escuros, porque os conjuntos de dados utilizados no treino eram dominados por pacientes de pele mais clara. Esta disparidade evidencia a necessidade de uma análise diversificada de imagens médicas para garantir uma qualidade de cuidados igual para todos.
• Contratação e recrutamento: Muitas empresas utilizam ferramentas automatizadas para filtrar currículos. Um caso histórico notável envolveu uma ferramenta de recrutamento que aprendeu a penalizar currículos que continham a palavra "women's", porque foi treinada com uma década de currículos enviados sobretudo por homens. Isto ilustra como os vieses históricos podem ser codificados através da modelação preditiva.
• Análise facial: As primeiras versões de software comercial de reconhecimento facial apresentavam taxas de erro significativamente mais elevadas para mulheres e pessoas de grupos racializados. Organizações como a Algorithmic Justice League foram fundamentais para evidenciar estas disparidades e defender uma tecnologia mais equitativa.

Distinguir conceitos relacionados#

Para mitigar eficazmente o viés, é útil distinguir o "Viés algorítmico" de termos relacionados no domínio da IA responsável.

• vs. Viés do conjunto de dados: O viés do conjunto de dados refere-se especificamente a falhas nos dados de entrada, como erros de amostragem ou inconsistências na anotação. O viés algorítmico é o resultado mais amplo, abrangendo erros decorrentes dos dados, da arquitetura do modelo ou da função objetivo.
• vs. Equidade na IA: A equidade na IA é a disciplina proativa e o conjunto de estratégias utilizados para prevenir e corrigir o viés algorítmico. Enquanto o viés é o problema, a equidade é o objetivo.
• vs. Deriva do modelo: Por vezes, um modelo é isento de viés durante o treino, mas torna-se enviesado ao longo do tempo à medida que os dados do mundo real mudam. Isto é conhecido como deriva dos dados, que requer uma monitorização contínua do modelo para ser detetada.

Estratégias de mitigação#

Os programadores podem reduzir o viés algorítmico através de testes rigorosos e de estratégias de treino diversificadas. Técnicas como o aumento de dados podem ajudar a equilibrar os conjuntos de dados, criando variações de exemplos sub-representados. Além disso, seguir estruturas como a Estrutura de Gestão de Riscos de IA do NIST assegura uma abordagem estruturada para identificar riscos.

O exemplo seguinte demonstra como aplicar o aumento de dados durante o treino com o Ultralytics YOLO26, um modelo de última geração. Ao aumentar transformações geométricas, como inversões ou redimensionamentos, o modelo aprende a generalizar melhor, reduzindo potencialmente o viés em relação a orientações ou posições específicas dos objetos.

from ultralytics import YOLO

# Load the YOLO26 model, the new standard for speed and accuracy
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)

Ferramentas como o AI Fairness 360 da IBM e o What-If Tool da Google permitem aos engenheiros auditar os seus modelos quanto a disparidades entre diferentes subgrupos. A utilização de dados sintéticos também pode ajudar a colmatar lacunas nos conjuntos de treino onde os dados do mundo real são escassos. Para uma gestão simplificada de conjuntos de dados e treino na nuvem, a Ultralytics Platform disponibiliza ferramentas para visualizar distribuições de dados e identificar potenciais desequilíbrios numa fase inicial. Em última análise, alcançar a transparência na IA exige uma combinação de soluções técnicas, equipas de desenvolvimento diversificadas e avaliação contínua da precisão e da revocação em todos os grupos demográficos de utilizadores.