Data Privacy

A privacidade dos dados é o direito das pessoas de controlar como as suas informações pessoais são recolhidas, usadas, partilhadas e conservadas, juntamente com as leis e práticas que as organizações seguem para respeitar esse direito. Na inteligência artificial, os riscos são maiores do que no software comum: os modelos são construídos a partir de grandes coleções de dados de treinamento que muitas vezes descrevem pessoas, podem memorizar e repetir esses dados, e sistemas como o de reconhecimento facial processam informações pessoais por definição.

Leis e princípios fundamentais#

O Regulamento Geral sobre a Proteção de Dados (GDPR) da UE, em vigor desde maio de 2018, estabelece os princípios de referência no seu artigo 5.º: os dados pessoais devem ser tratados de forma lícita, leal e transparente, recolhidos para fins específicos (limitação das finalidades), limitados ao necessário (minimização dos dados), mantidos exatos, conservados apenas durante o tempo necessário (limitação da conservação) e protegidos com medidas de segurança adequadas, cabendo ao responsável pelo tratamento demonstrar a conformidade (responsabilização). O artigo 25.º exige a proteção de dados desde a conceção e por defeito, e o artigo 22.º concede às pessoas direitos relativos a decisões tomadas exclusivamente por tratamento automatizado. As multas podem chegar a 20 milhões de euros ou 4% do volume de negócios anual mundial, consoante o que for mais elevado.

Outras leis seguem padrões semelhantes. A CCPA da Califórnia, alargada pela CPRA, concede aos residentes o direito de saber, apagar e recusar a venda ou partilha dos seus dados. Na área da saúde nos EUA, a norma de desidentificação da HIPAA enumera 18 identificadores a remover segundo o método Safe Harbor, incluindo fotografias faciais completas e imagens comparáveis. A Lei de IA da UE acrescenta regras específicas para a IA e, desde fevereiro de 2025, proíbe a criação de bases de dados de reconhecimento facial através da recolha indiscriminada de imagens de rostos na Internet ou de gravações de CCTV.

A aplicação destas leis a um conjunto de dados depende de ser possível identificar as pessoas a partir dele:

A anonimização é mais difícil do que parece. Em 2000, Latanya Sweeney mostrou que apenas o código postal, o género e a data de nascimento identificam de forma exclusiva cerca de 87% da população dos EUA, razão pela qual remover os nomes raramente torna anónimo um conjunto de dados.

Riscos de privacidade específicos da IA#

Os modelos podem memorizar e reproduzir os exemplos de treinamento. Nicholas Carlini e colegas extraíram mais de mil imagens de treinamento de modelos de difusão, incluindo fotografias de pessoas. Mesmo sem extração, os ataques de inferência de pertença podem revelar se o registo de uma pessoa específica fazia parte de um conjunto de treinamento, algo especialmente sensível num modelo treinado com pacientes que têm uma determinada doença.

A recolha é o outro grande risco. Imagens e textos reunidos para uma finalidade são muitas vezes reutilizados para treinamento sem base jurídica, e várias autoridades europeias de proteção de dados multaram a Clearview AI por criar uma base de dados faciais a partir de fotografias recolhidas na Web, incluindo uma multa de 30,5 milhões de euros aplicada pela autoridade neerlandesa em 2024. Dentro das organizações, os dados pessoais colados em chatbots externos por meio de ferramentas de IA paralela ficam fora do controle da organização.

Técnicas de preservação da privacidade#

• Privacidade diferencial: Adiciona ruído calibrado a estatísticas ou ao treinamento, para que os resultados quase não revelem informações sobre qualquer pessoa.
• Aprendizagem federada: Treina com os dados onde estes se encontram, como em telemóveis ou servidores hospitalares, e partilha apenas atualizações do modelo.
• Dados sintéticos: Substituem registos reais por registos gerados que mantêm os seus padrões estatísticos.
• IA confidencial e IA de borda: Processam os dados em enclaves de hardware atestados ou no dispositivo que os captou.

A redação remove conteúdo identificável antes do armazenamento ou treinamento. Pipelines de visão computacional desfocam rostos e placas em imagens de ruas para análises de trânsito em cidades inteligentes, e conjuntos de dados de análise de imagens médicas removem identificadores de pacientes dos cabeçalhos DICOM e características faciais de exames da cabeça. Na Ultralytics Platform, a ação Desfocar rostos pré-visualiza os rostos detectados em imagens de amostra e substitui seus pixels em todas as imagens do conjunto de dados. Também é possível configurar o conjunto para desfocar rostos automaticamente em cada novo envio.

A segurança dos dados é um dos requisitos da privacidade dos dados: a encriptação e o controle de acesso impedem que pessoas não autorizadas acedam a dados pessoais, mas uma base de dados perfeitamente segura ainda pode infringir as leis de privacidade se contiver dados recolhidos sem base jurídica ou conservados para além do necessário à sua finalidade.