AI Ethics

A ética em IA é o campo que aplica princípios morais ao projeto, desenvolvimento e uso da inteligência artificial (IA), perguntando quais sistemas devem ser criados, como devem se comportar e quem responde por seus efeitos. Suas principais preocupações são justiça, privacidade, transparência, segurança, responsabilização e supervisão humana, e o campo se baseia na filosofia, no direito, nas ciências sociais e na engenharia. Na prática, a ética em IA influencia a forma como as equipes coletam dados, avaliam modelos e decidem quais produtos lançar, além de fundamentar regulamentações como o Regulamento de IA da UE e as leis de IA da Califórnia.

Princípios fundamentais#

Os frameworks internacionais convergem para um conjunto semelhante de princípios. Os Princípios de IA da OCDE, adotados em 2019 e atualizados em 2024, foram o primeiro padrão intergovernamental sobre IA; a Recomendação sobre a Ética da Inteligência Artificial da UNESCO foi adotada por todos os 193 Estados-membros em 2021; e o Framework de Gestão de Riscos de IA do NIST (2023) transforma valores semelhantes em características de uma IA confiável que as organizações podem medir:

• Justiça e não discriminação: Os sistemas não devem ter um desempenho pior para as pessoas nem prejudicá-las por causa do tom de pele, gênero, idade ou outras características protegidas. O viés em IA costuma surgir de dados ou rótulos não representativos, e a justiça em IA fornece as métricas para detectá-lo.
• Privacidade e governança de dados: Os dados pessoais devem ser coletados legalmente, com consentimento quando necessário, e processados apenas na medida exigida pela finalidade. Técnicas como privacidade diferencial e aprendizado federado reduzem o quanto um modelo revela ou centraliza. Em análise de vídeo, privacidade desde a concepção pode significar anonimizar as pessoas antes de armazenar as imagens: a solução de desfoque de objetos da Ultralytics executa a detecção do YOLO26 em cada quadro e desfoca cada objeto detectado, como todas as pessoas, diretamente na imagem.
• Transparência e explicabilidade: As pessoas devem saber quando estão lidando com um sistema de IA e poder descobrir como ele foi desenvolvido, tema da transparência em IA, e as decisões que as afetam devem poder ser explicadas com métodos de IA explicável (XAI).
• Segurança e robustez: Os sistemas devem funcionar de forma confiável nas condições encontradas em produção, resistir a manipulações como ataques adversariais e falhar de forma segura.
• Responsabilização e supervisão humana: Uma pessoa ou organização identificada responde pelos resultados de cada sistema, e as pessoas podem monitorá-lo, sobrepor-se às suas decisões ou desligá-lo.

Dos princípios à legislação#

A Lei de IA da UE transforma esses princípios em obrigações proporcionais ao risco. Entrou em vigor em agosto de 2024; as proibições de práticas proibidas são aplicáveis desde 2 de fevereiro de 2025, e as obrigações de transparência, desde 2 de agosto de 2026. Após a alteração do Regulamento Omnibus Digital de 2026, os requisitos para usos de alto risco listados no Anexo III, como contratação, avaliação de crédito e educação, são aplicáveis a partir de 2 de dezembro de 2027. A Lei classifica cada uso de IA de acordo com as obrigações que ele acarreta:

Várias proibições dizem respeito diretamente à visão computacional: coleta indiscriminada de imagens faciais da internet ou de câmeras de segurança para criar bancos de dados de reconhecimento, reconhecimento de emoções em locais de trabalho e escolas, categorização biométrica que infere características como raça ou opiniões políticas e, com exceções restritas, identificação biométrica remota em tempo real em espaços públicos para fins de aplicação da lei. As organizações também podem certificar suas práticas de gestão de IA com base na ISO/IEC 42001, uma norma internacional publicada em 2023.

Ética em IA e termos relacionados#

• Segurança da IA: Concentra-se em prevenir acidentes, uso indevido e perda de controle à medida que os sistemas se tornam mais capazes. A ética em IA também questiona se um sistema deve existir e a quem ele serve.
• Governança de IA: As políticas, os processos e as leis por meio dos quais organizações e governos colocam princípios éticos em prática.
• IA responsável: O termo que as empresas costumam usar para se referir à própria prática de ética em IA, sendo em grande parte um sinônimo.
• Viés algorítmico: Um problema ético específico — erro sistemático que produz resultados injustos — dentro de um campo mais amplo.

Questões éticas em visão computacional#

• Saúde: Na análise de imagens médicas, um modelo validado com os scanners e pacientes de um hospital pode não detectar achados em populações que nunca viu. Por isso, os frameworks de ética defendem avaliações desagregadas e supervisão clínica.
• Mídia sintética: Os deepfakes permitem fraudes, assédio e desinformação, e a Lei de IA da UE exige que quem os implementa informe sobre eles.
• Reconhecimento de emoções: Em 2022, a Microsoft descontinuou recursos do Azure Face que inferiam estados emocionais e atributos como gênero e idade. A empresa citou a falta de consenso científico sobre como definir emoções e dúvidas sobre se as inferências baseadas em expressões faciais se generalizam entre regiões e grupos demográficos.
• Consentimento e procedência de conjuntos de dados: Muitos conjuntos de dados de rostos e pessoas foram coletados sem o conhecimento das pessoas retratadas; em 2019, a Microsoft retirou seu conjunto de dados MS-Celeb-1M, com cerca de 10 milhões de fotos de 100.000 pessoas.
• Reconhecimento facial e vigilância: Em junho de 2020, a IBM deixou de oferecer reconhecimento facial de uso geral, e a Amazon suspendeu o uso do serviço Rekognition pela polícia, moratória que mais tarde estendeu por tempo indeterminado. Em setembro de 2024, a Autoridade Holandesa de Proteção de Dados multou a Clearview AI em €30,5 milhões por criar um banco de dados com bilhões de fotos de rostos coletadas da internet.