AI Watermarking
A marca de água de IA oculta um sinal detetável por máquina em imagens, texto, áudio ou vídeo gerados. Como funcionam o SynthID e os esquemas de listas verdes e onde falham.
A marca d'água de IA consiste em incorporar um sinal oculto e detectável por máquina ao conteúdo produzido por um sistema de IA generativa, para que um detector com a chave adequada possa identificar posteriormente se uma imagem, vídeo, clipe de áudio ou trecho de texto veio desse sistema. O sinal é projetado para ser imperceptível às pessoas e resistir a edições comuns, como redimensionamento e compressão. As marcas d'água são uma das partes da proveniência de dados para mídias sintéticas, e a regulamentação está tornando-as obrigatórias: o Artigo 50 do Regulamento Europeu de Inteligência Artificial exige que os fornecedores de sistemas generativos identifiquem as saídas em um formato detectável e legível por máquina a partir de 2 de agosto de 2026. Os sistemas já disponíveis no mercado têm até 2 de dezembro de 2026, e as regras da China para rotulagem de conteúdo gerado por IA, em vigor desde setembro de 2025, exigem rótulos ocultos nos metadados dos arquivos, além dos visíveis.
Como funciona a marca d'água de IA#
A maioria dos métodos atuais incorpora o sinal durante a geração do conteúdo, o que dificulta sua remoção em comparação com uma marca adicionada posteriormente.
- Imagens e vídeo: Um codificador treinado faz pequenas alterações distribuídas pela imagem inteira, e um decodificador neural associado recupera o sinal posteriormente. O SynthID do Google DeepMind funciona assim para imagens, vídeo e áudio de modelos como Imagen, Veo e Lyria. Já o Stable Signature da Meta ajusta o decodificador de um modelo de difusão latente para que cada imagem gerada contenha uma assinatura binária fixa. Outros métodos inserem um padrão no ruído inicial que um modelo de difusão elimina gradualmente; assim, a marca fica incorporada à representação do espaço latente da imagem desde a primeira etapa.
- Texto: Um modelo de linguagem grande (LLM) escolhe cada token a partir de uma distribuição de probabilidades, e uma marca d'água textual influencia essas escolhas segundo um padrão que somente quem tem a chave pode detectar. O SynthID Text, descrito na Nature em 2024, foi avaliado em quase 20 milhões de respostas do Gemini sem uma redução de qualidade mensurável e é de código aberto no Hugging Face Transformers.
- Marcas adicionadas posteriormente: Marcas d'água clássicas de processamento de sinais, como padrões no domínio da frequência, podem ser adicionadas a qualquer arquivo após a geração, embora geralmente sejam mais fáceis de remover.
Para imagens, a detecção se baseia na pontuação de saída de um decodificador; para texto, é um teste estatístico na sequência de tokens, que não precisa acessar o modelo.
Uma marca d'água textual de lista verde#
O método de A Watermark for Large Language Models, de Kirchenbauer e colegas, usa uma chave secreta para gerar um hash do token anterior e dividir o vocabulário entre uma parte «verde» e o restante «vermelho». Em seguida, acrescenta uma pequena tendência aos logits dos tokens verdes antes da amostragem. O texto sem marca d'água seleciona tokens verdes à taxa de base, enquanto o texto marcado os seleciona com muito mais frequência, o que um teste z de uma proporção detecta. No trecho abaixo, logits aleatórios representam um modelo de linguagem:
import torch
torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42 # key is the secret shared with the detector
def green_list(prev):
"""Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]
for bias in (0.0, delta): # ordinary sampling, then watermarked sampling
tokens = [0]
for _ in range(length):
logits = torch.randn(vocab) # stands in for a language model's next-token logits
logits[green_list(tokens[-1])] += bias
tokens.append(torch.multinomial(logits.softmax(0), 1).item())
# Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")A amostragem comum seleciona 44 tokens verdes entre 200 (z = -1.0), próximo dos 25% esperados, enquanto a execução com marca d'água seleciona 141 (z = 14.9), bem acima do limiar z = 4 que o artigo usa para sinalizar um texto como marcado. Como cada token acrescenta evidências, trechos mais longos permitem uma detecção mais confiável, e textos em que o próximo token é quase previsível, como código ou uma lista de fatos, apresentam um sinal mais fraco.
Marcas d'água vs. abordagens relacionadas#
- Credenciais de Conteúdo (C2PA): Um manifesto de metadados assinado criptograficamente que registra qual ferramenta criou ou editou um arquivo. Contém muito mais detalhes do que uma marca d'água, mas desaparece quando o arquivo é recodificado ou capturado em uma captura de tela; por isso, muitas vezes os dois métodos são combinados.
- Deepfake e detecção de imagens geradas por IA: Classificadores que procuram artefatos de geração em conteúdo sem marca incorporada. Funcionam com saídas de qualquer gerador, mas fornecem resultados probabilísticos que perdem precisão à medida que os geradores melhoram. As pessoas usam indícios semelhantes para identificar visualmente se uma imagem foi gerada por IA.
- Esteganografia: Ocultação de uma mensagem secreta dentro de um arquivo. A marca d'água utiliza técnicas semelhantes, mas prioriza uma detecção robusta em vez de ocultar uma grande quantidade de dados.
As plataformas que identificam mídias sintéticas e filtram conteúdo de IA de baixa qualidade costumam combinar estas verificações:
Robustez e limitações#
Uma marca d'água deve resistir a alterações inofensivas, como recorte, redimensionamento, mudanças de cor e compressão JPEG e, idealmente, a ataques adversariais deliberados. Os desenvolvedores testam isso aplicando transformações semelhantes ao aumento de dados ao conteúdo marcado e medindo a frequência com que a detecção continua funcionando. Os métodos atuais têm pontos fracos conhecidos:
- Regeneração: Adicionar ruído a uma imagem e reconstruí-la com um modelo generativo remove marcas d'água invisíveis ao nível dos pixels, mantendo a imagem visualmente semelhante.
- Paráfrase e tradução: Reescrever um texto marcado com outro modelo, ou traduzi-lo e traduzi-lo de volta, dilui o padrão de tokens contabilizado pelo detector.
- Cobertura: Só é possível detectar as saídas de fornecedores que incorporam uma marca. Modelos com pesos abertos podem ser executados sem uma marca; portanto, a ausência de marca d'água não indica que o conteúdo tenha sido criado por uma pessoa.
- Falsificação: Um atacante que descubra detalhes suficientes de um método pode aplicar sua marca a conteúdo criado por pessoas para desacreditá-lo.
As marcas d'água visíveis geram outro problema para conjuntos de dados de visão computacional: os modelos as aprendem como atalhos. Em um caso conhecido, um classificador treinado no conjunto de dados PASCAL VOC aprendeu a reconhecer cavalos, em parte, por uma marca de direitos autorais presente em cerca de um quinto das fotos de cavalos. O classificador falhava quando a marca era removida. Marcas visíveis e logotipos são conteúdo comum de imagens; por isso, um modelo Ultralytics YOLO26 de detecção de objetos, treinado com exemplos anotados, pode localizá-los em um conjunto de dados de treinamento, permitindo que as equipes recortem ou removam imagens marcadas antes que ensinem ao modelo um indício incorreto.










