Falsificações profundas

Os media sintéticos criados com recurso a técnicas de aprendizagem profunda são conhecidos como deepfakes. O termo é uma junção de "deep learning" (aprendizagem profunda) e "fake" (falso), referindo-se a vídeos ou gravações áudio em que a imagem e a voz de uma pessoa são substituídas pela de outra, muitas vezes com um elevado grau de realismo. Isto é conseguido através do treino de uma rede neuronal em grandes quantidades de imagens e vídeos existentes dos indivíduos visados para aprender e reproduzir as suas expressões faciais, maneirismos e padrões de discurso.

A tecnologia por detrás dos Deepfakes

A geração de Deepfake baseia-se principalmente em dois conceitos-chave de aprendizagem automática: Redes Adversárias Generativas (GANs) e autoencoders.

• Redes Adversariais Generativas (GANs): Uma GAN consiste em duas redes neurais concorrentes: um Gerador e um Discriminador. O Gerador cria as imagens falsas (por exemplo, um fotograma de um vídeo com um rosto trocado), enquanto o Discriminador tenta determinar se a imagem é real ou falsa. Este processo contraditório força o Gerador a produzir falsificações cada vez mais convincentes que possam enganar o Discriminador. Esta técnica é uma pedra angular da IA generativa moderna.
• Auto-codificadores: Esta abordagem utiliza uma arquitetura de codificador-descodificador. Dois autoencoders são treinados em imagens de duas pessoas diferentes. Para efetuar uma troca de rosto, as imagens da primeira pessoa passam pelo primeiro codificador, mas depois são descodificadas utilizando o descodificador treinado na segunda pessoa. Isto gera imagens da segunda pessoa com as expressões e a orientação da primeira. O processo começa frequentemente com um modelo de deteção de objectos, como o Ultralytics YOLO, para localizar rostos num vídeo antes do início do processo de troca.

Aplicações e exemplos do mundo real

Embora frequentemente associada a utilizações maliciosas, a tecnologia deepfake tem várias aplicações legítimas e criativas.

• Entretenimento e Media: A tecnologia pode ser utilizada para dobrar filmes em diferentes línguas, fazendo corresponder os movimentos labiais dos actores ao novo diálogo. Também permite desenvelhecer actores ou recriar digitalmente figuras históricas para filmes biográficos, tal como explorado por empresas como a Industrial Light & Magic.
• Geração de dados sintéticos: A criação de conjuntos de dados realistas mas artificiais é uma aplicação poderosa. Por exemplo, os dados sintéticos de rostos humanos podem ser utilizados para treinar modelos de visão por computador para tarefas como o reconhecimento facial sem comprometer a privacidade dos dados de indivíduos reais. Isto ajuda a melhorar a robustez do modelo e a reduzir o enviesamento do conjunto de dados.

Desafios éticos e deteção

O potencial de utilização indevida faz dos deepfakes uma preocupação ética significativa. A tecnologia pode ser utilizada para criar notícias falsas convincentes, espalhar desinformação política, cometer fraudes e gerar conteúdos explícitos não consentidos. Estes riscos realçam a importância de desenvolver princípios sólidos para a ética da IA e o desenvolvimento responsável da IA.

Em resposta, surgiu um campo de deteção de deepfake, criando uma corrida ao armamento tecnológico entre a geração e os métodos de deteção. Os investigadores e as empresas estão a desenvolver modelos de IA para detetar os subtis artefactos visuais e as inconsistências que os algoritmos de deepfake frequentemente deixam para trás. Iniciativas como o Deepfake Detection Challenge e organizações como a Partnership on AI estão concentradas no avanço destas capacidades de deteção para mitigar o impacto negativo da tecnologia. Existem também ferramentas disponíveis para o público, como o Intel FakeCatcher, concebidas para identificar conteúdos gerados. Aprender a perceber se uma imagem é gerada por IA está a tornar-se uma competência essencial no panorama digital moderno.