AI Watermarking
AI 水印会在生成的图像、文本、音频或视频中隐藏机器可检测的信号。本文介绍 SynthID 和绿名单方案的工作原理及其局限。
AI 水印是指在生成式 AI系统生成的内容中嵌入隐藏且可由机器检测的信号,使持有正确密钥的检测器日后能够判断图像、视频、音频片段或文本段落是否由该系统生成。这种信号旨在让人无法察觉,并能经受调整大小和压缩等日常编辑。水印是合成媒体数据溯源的一部分,相关法规也正要求强制使用水印:《欧盟人工智能法案》第 50 条要求生成式系统提供商从 2026 年 8 月 2 日起,以机器可读且可检测的格式标记输出;已上市的系统则有宽限期,须在 2026 年 12 月 2 日前落实。中国自 2025 年 9 月起生效的 AI 生成内容标识规定,则要求在文件元数据中添加隐藏标识,并同时提供可见标识。
AI 水印的工作原理#
目前大多数方案会在生成内容时嵌入信号,因此比生成后添加的标记更难去除。
- 图像和视频:经过训练的编码器会在整张图像中分散地做出细微改动,配对的神经解码器之后可以恢复信号。Google DeepMind 的 SynthID 以这种方式处理 Imagen、Veo 和 Lyria 等模型生成的图像、视频和音频;Meta 的 Stable Signature 则通过微调潜在扩散模型的解码器,让它生成的每张图像都带有固定的二进制签名。其他方法会在起始噪声中植入一种模式,再由扩散模型对噪声进行去噪,因此从第一步开始,标记就融入了图像的潜在空间表示中。
- 文本:大语言模型(LLM)根据概率分布选择每个 token,文本水印会以只有密钥持有者才能检测的模式,轻微调整这些选择。SynthID Text 在 2024 年的《自然》上发表,其评估涵盖近 2000 万条 Gemini 回复,未发现可测量的质量下降;该技术已在 Hugging Face Transformers 中开源。
- 事后添加的标记:频域模式等传统信号处理水印可以在生成后添加到任何文件中,但通常更容易去除。
图像水印检测会输出解码器的分数;文本水印检测则会对 token 序列进行统计检验,完全不需要访问模型。
一种绿色列表文本水印#
Kirchenbauer 等人在《一种适用于大语言模型的水印》中提出的方案,会用密钥对前一个 token 进行哈希,将词汇表拆分为“绿色”部分和其余“红色”部分,然后在采样前对绿色 token 的 logits 添加微小偏置。未经水印处理的文本中,绿色 token 的占比接近基础概率;带水印的文本中,绿色 token 的占比则高得多,可通过单比例 z 检验检测出来。下面的代码片段用随机 logits 模拟语言模型:
import torch
torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42 # key is the secret shared with the detector
def green_list(prev):
"""Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]
for bias in (0.0, delta): # ordinary sampling, then watermarked sampling
tokens = [0]
for _ in range(length):
logits = torch.randn(vocab) # stands in for a language model's next-token logits
logits[green_list(tokens[-1])] += bias
tokens.append(torch.multinomial(logits.softmax(0), 1).item())
# Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")普通采样在 200 个 token 中命中了 44 个绿色 token(z = -1.0),接近预期的 25%;带水印的运行则命中了 141 个(z = 14.9),远高于论文用于标记水印文本的 z = 4 阈值。每个 token 都会提供证据,因此较长的文本能让检测结果更可靠;而代码或事实列表等下一个 token 几乎可以确定的文本,携带的信号会较弱。
水印与相关方法的比较#
- 内容凭证(C2PA):经过加密签名的元数据清单,记录创建或编辑文件时使用的工具。它比水印包含的信息多得多,但文件重新编码或截图后就会消失,因此两种方法通常会结合使用。
- 深度伪造和 AI 图像检测:这类分类器会在没有嵌入标记的内容中寻找生成痕迹。它们适用于任何生成器的输出,但只能给出概率性结果,且随着生成器改进,检测效果会下降;人们也会使用类似线索,通过观察来判断图像是否由 AI 生成。
- 隐写术:在文件中隐藏秘密消息。水印借用了隐写术的技术,但优先确保检测可靠,而不是隐藏大量数据。
对合成媒体添加标识并过滤 AI 垃圾内容的平台通常会组合使用以下检查:
鲁棒性与局限#
水印必须能够经受裁剪、调整大小、色偏和 JPEG 压缩等无害改动,理想情况下还应能抵抗对抗性攻击。开发者会对带标记内容应用类似数据增强的变换,并测量检测仍能成功的频率,以此进行测试。目前的方案存在一些已知弱点:
- 重新生成:向图像中添加噪声,再用生成模型重建,可以去除像素级的不可见水印,同时保持图像在视觉上相似。
- 改写和翻译:用另一个模型重写带水印的文本,或先翻译再译回,会削弱检测器所统计的 token 模式。
- 覆盖范围:只能检测嵌入标记的提供商所生成的内容;开放权重模型可以在不加水印的情况下运行,因此没有水印并不能说明内容是否由人类创作。
- 伪造:攻击者如果充分了解某种方案,就可以把它的标记打到人类创作的内容上,以此损害方案的公信力。
可见水印会给计算机视觉数据集带来另一个问题:模型会把水印学成捷径特征。一个广为人知的案例是,使用 PASCAL VOC 数据集训练的分类器,部分依据版权标记识别马;约五分之一的马匹照片中都出现了这种标记,而移除标记后,分类器就无法正常工作。可见标记和徽标都是普通图像内容,因此在带标签的示例上训练的 Ultralytics YOLO26目标检测模型可以在训练数据集中定位这些内容,让团队在错误线索教会模型之前裁剪或移除带标记的图像。










