Falsificações profundas

Como são criadas as deepfakes

A tecnologia central por trás de muitos deepfakes envolve Redes Adversárias Generativas (GANs). Uma GAN consiste em duas redes neurais concorrentes: um gerador que cria o conteúdo falso (por exemplo, uma imagem com um rosto trocado) e um discriminador que tenta distinguir entre conteúdo real e falso. Através de treino iterativo, o gerador torna-se cada vez mais apto a produzir falsificações realistas que podem enganar o discriminador e, em última análise, os observadores humanos. Os autoencoders são outra técnica comum, aprendendo representações comprimidas (codificações) de rostos a partir de grandes conjuntos de dados e depois descodificando essas representações para reconstruir ou trocar rostos em vídeos alvo. A criação de deepfakes convincentes requer muitas vezes dados de treino substanciais (imagens ou clips de vídeo dos indivíduos alvo) e GPU e recursos computacionais GPU significativos, muitas vezes geridos através de plataformas como o Ultralytics HUB.

Aplicações e exemplos

A tecnologia Deepfake tem uma série de aplicações, desde utilizações benéficas a actividades maliciosas:

• Entretenimento e media: Utilizada no cinema para desenvelhecer actores, recriar figuras históricas ou melhorar a dobragem alterando os movimentos dos lábios para corresponder ao áudio traduzido. Por exemplo, os cineastas utilizaram técnicas de deepfake em O Mandaloriano para recriar digitalmente uma versão mais jovem de um ator. Outro exemplo é o Synthesia, uma plataforma que utiliza avatares de IA para criar vídeos de formação e apresentações, gerando efetivamente conteúdos de vídeo sintéticos.
• Educação e acessibilidade: Cria instrutores virtuais ou dá vida a figuras históricas para fins educativos. A clonagem de voz pode ajudar pessoas que perderam a voz.
• Geração dedados sintéticos: Cria conjuntos de dados artificiais para treinar outros modelos de ML, especialmente na visão computacional, onde os dados reais podem ser escassos ou sensíveis. Isto pode ajudar a melhorar a robustez de modelos como o Ultralytics YOLO11 para tarefas como o reconhecimento facial.
• Desinformação e malícia: Espalhar desinformação política, criar falsos apoios ou escândalos de celebridades, gerar pornografia não consensual e perpetrar fraudes através de falsificação de identidade (por exemplo, falsificação de voz para autorizar transacções). Estas situações levantam sérias preocupações sobre a ética da IA e a privacidade dos dados.

Deteção de Deepfake

O surgimento de deepfakes estimulou a investigação de métodos de deteção. Estes envolvem frequentemente o treino de modelos de ML para identificar inconsistências subtis ou artefactos caraterísticos do conteúdo gerado, tais como padrões invulgares de pestanejar, expressões faciais não naturais ou inconsistências na iluminação ou nas sombras. As técnicas de Visão por Computador (CV) são fundamentais para este esforço. No entanto, a deteção é uma corrida armamentista contínua, uma vez que as técnicas de geração de deepfake melhoram continuamente para evitar a deteção. Organizações como o Deepfake Detection Challenge (DFDC) da Meta AI e iniciativas de empresas como a Microsoft têm como objetivo fazer avançar o estado da tecnologia de deteção. Os benchmarks e conjuntos de dados padrão são cruciais para desenvolver e avaliar esses modelos de deteção.

Distinção da manipulação de outros meios de comunicação

Os deepfakes diferem da edição tradicional de fotos ou vídeos (como o uso do Adobe Photoshop ou do After Effects) principalmente no uso do deep learning para gerar elementos visuais ou sonoros totalmente novos e realistas com base em padrões aprendidos, em vez de apenas alterar os pixels existentes manualmente ou por meio de algoritmos mais simples. Enquanto o reconhecimento de imagens se centra na identificação de objectos ou caraterísticas numa imagem, a tecnologia deepfake centra-se na síntese de imagens ou vídeos plausíveis. Representa uma aplicação sofisticada de IA generativa no domínio visual. O potencial de utilização indevida sublinha a importância do desenvolvimento responsável da IA e da sensibilização do público.