Deepfakes

Deepfakes são imagens, vídeos ou gravações de áudio nos quais o aprendizado profundo (DL) substitui ou fabrica o rosto, a voz ou o corpo de uma pessoa real de forma tão convincente que quem assiste acredita que são autênticos. O termo, uma combinação de "aprendizado profundo" e "falso", surgiu em 2017, quando um usuário do Reddit chamado "deepfakes" começou a publicar vídeos com troca de rostos criados com ferramentas de código aberto. Deepfakes são uma forma de IA generativa, e as mesmas técnicas impulsionam efeitos cinematográficos e dublagem, além de fraudes, assédio e desinformação.

Como os deepfakes são criados#

A troca de rostos clássica usa um par de autoencoders que compartilham um codificador. O codificador compartilhado aprende a comprimir qualquer rosto em um código compacto do espaço latente que descreve pose, expressão e iluminação, enquanto cada decodificador aprende a reconstruir uma pessoa específica a partir desse código. Depois de treinar com milhares de recortes de rostos de ambas as pessoas, o sistema codifica um quadro da pessoa A e o decodifica com o decodificador da pessoa B, produzindo o rosto da pessoa B com a expressão da pessoa A:

Vieram depois outros métodos:

• Redes adversariais generativas (GANs): um gerador cria imagens enquanto um discriminador tenta diferenciá-las de fotos reais, e essa competição leva o gerador a produzir imagens fotorrealistas. GANs como a StyleGAN geram rostos de pessoas que não existem.
• Modelos de difusão: geram imagens e vídeos removendo ruído passo a passo, com orientação de texto, uma foto de referência ou um vídeo de origem. Eles impulsionam as ferramentas atuais de edição de fotos e de conversão de texto em vídeo, que podem gerar um vídeo realista de uma pessoa falando a partir de uma única foto de referência.
• Clonagem de voz: modelos de fala reproduzem a voz de uma pessoa a partir de uma gravação curta, e modelos de sincronização labial remodelam a boca em um vídeo existente para corresponder ao novo áudio.

Usos e danos#

As técnicas de deepfake têm usos legítimos. Estúdios rejuvenescem atores e dublam filmes para outros idiomas com movimentos labiais correspondentes. O documentário de 2020 Welcome to Chechnya substituiu os rostos de entrevistados perseguidos pelos de voluntários, protegendo suas identidades e preservando cada expressão. Pacientes que perdem a voz por causa de doenças podem guardar gravações e falar por meio de um clone da própria voz, e rostos gerados servem como dados sintéticos para treinar modelos sem coletar fotos de pessoas reais.

Os danos são maiores em escala. A maioria dos deepfakes publicados na internet é de imagens íntimas não consensuais que têm como alvo pessoas reais, geralmente mulheres. Golpistas clonam as vozes de familiares ou executivos para solicitar pagamentos urgentes e, no início de 2024, um funcionário da empresa de engenharia Arup transferiu cerca de US$ 25 milhões após uma videochamada em que o diretor financeiro da empresa e outros colegas eram todos deepfakes. Vídeos fabricados de políticos se espalham durante as eleições, e a existência de falsificações convincentes permite que as pessoas descartem gravações autênticas como fabricadas.

Como detectar deepfakes#

Os sistemas de detecção procuram vestígios deixados pela geração: bordas de mesclagem ao redor do rosto, iluminação e reflexos incompatíveis nos olhos, piscadas ou movimentos de cabeça não naturais, artefatos de frequência invisíveis a olho nu e movimentos labiais fora de sincronia com a fala. A maioria dos detectores primeiro localiza e recorta cada rosto e, em seguida, passa o recorte para um classificador treinado com exemplos reais e manipulados. O Ultralytics YOLO26 se encaixa nessa segunda etapa: seus modelos de classificação são treinados com um conjunto de dados com uma pasta por classe, então as pastas "real" e "falso" com recortes de rostos bastam para treinar um classificador de conteúdo real ou falso.

Os detectores têm dificuldade para generalizar para métodos de geração que nunca viram. No Desafio de Detecção de Deepfakes da Meta, o modelo vencedor alcançou 65,18% de precisão média em um conjunto de teste oculto de vídeos novos, contra 82,56% do melhor modelo no conjunto de teste público. Como a detecção fica atrás da geração, o setor também verifica a procedência: Content Credentials (C2PA) anexa um registro assinado criptograficamente de como a mídia foi capturada e editada, e a marca d'água de IA incorpora um sinal oculto no conteúdo gerado, que os detectores podem ler posteriormente.

Deepfakes e conceitos relacionados#

• Dados sintéticos: quaisquer dados gerados artificialmente e usados para treinar ou testar modelos, desde cenas de direção simuladas até imagens renderizadas de produtos. As técnicas de deepfake são uma fonte desses dados quando rostos gerados preenchem um conjunto de treinamento.
• Imagens geradas por computador (CGI): personagens e efeitos digitais que artistas modelam, preparam para animação e animam manualmente. Os estúdios de efeitos visuais combinam cada vez mais CGI com a substituição de rostos baseada em aprendizado na mesma cena.
• Shallowfakes: edições enganosas feitas sem IA, como desacelerar um clipe para fazer uma pessoa parecer estar falando com dificuldade ou adicionar legendas a um vídeo real com um contexto falso.

Regulamentação#

As leis agora visam diretamente os deepfakes. O Artigo 50 do Regulamento de IA da UE, aplicável a partir de 2 de agosto de 2026, exige que os responsáveis pela implantação que usam IA para criar deepfakes informem que o conteúdo foi gerado ou manipulado artificialmente, e exige que os fornecedores de sistemas generativos identifiquem os resultados em um formato legível por máquina. Nos Estados Unidos, o TAKE IT DOWN Act, sancionado em maio de 2025, tornou crime federal publicar deepfakes íntimos não consensuais e, desde 19 de maio de 2026, as plataformas abrangidas são obrigadas a remover esse conteúdo em até 48 horas após uma solicitação válida.