获取 YOLO 许可
返回 Ultralytics 术语表

AI Watermarking

AI 水印会在生成的图像、文本、音频或视频中隐藏机器可检测的信号。本文介绍 SynthID 和绿名单方案的工作原理及其局限。

AI 水印是指在生成式 AI系统生成的内容中嵌入隐藏且可由机器检测的信号,使持有正确密钥的检测器日后能够判断图像、视频、音频片段或文本段落是否由该系统生成。这种信号旨在让人无法察觉,并能经受调整大小和压缩等日常编辑。水印是合成媒体数据溯源的一部分,相关法规也正要求强制使用水印:《欧盟人工智能法案》第 50 条要求生成式系统提供商从 2026 年 8 月 2 日起,以机器可读且可检测的格式标记输出;已上市的系统则有宽限期,须在 2026 年 12 月 2 日前落实。中国自 2025 年 9 月起生效的 AI 生成内容标识规定,则要求在文件元数据中添加隐藏标识,并同时提供可见标识。

AI 水印的工作原理#

目前大多数方案会在生成内容时嵌入信号,因此比生成后添加的标记更难去除。

  • 图像和视频:经过训练的编码器会在整张图像中分散地做出细微改动,配对的神经解码器之后可以恢复信号。Google DeepMind 的 SynthID 以这种方式处理 Imagen、Veo 和 Lyria 等模型生成的图像、视频和音频;Meta 的 Stable Signature 则通过微调潜在扩散模型的解码器,让它生成的每张图像都带有固定的二进制签名。其他方法会在起始噪声中植入一种模式,再由扩散模型对噪声进行去噪,因此从第一步开始,标记就融入了图像的潜在空间表示中。
  • 文本:大语言模型(LLM)根据概率分布选择每个 token,文本水印会以只有密钥持有者才能检测的模式,轻微调整这些选择。SynthID Text 在 2024 年的《自然》上发表,其评估涵盖近 2000 万条 Gemini 回复,未发现可测量的质量下降;该技术已在 Hugging Face Transformers 中开源。
  • 事后添加的标记:频域模式等传统信号处理水印可以在生成后添加到任何文件中,但通常更容易去除。

图像水印检测会输出解码器的分数;文本水印检测则会对 token 序列进行统计检验,完全不需要访问模型。

一种绿色列表文本水印#

Kirchenbauer 等人在《一种适用于大语言模型的水印》中提出的方案,会用密钥对前一个 token 进行哈希,将词汇表拆分为“绿色”部分和其余“红色”部分,然后在采样前对绿色 token 的 logits 添加微小偏置。未经水印处理的文本中,绿色 token 的占比接近基础概率;带水印的文本中,绿色 token 的占比则高得多,可通过单比例 z 检验检测出来。下面的代码片段用随机 logits 模拟语言模型:

import torch

torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42  # key is the secret shared with the detector


def green_list(prev):
    """Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
    return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]


for bias in (0.0, delta):  # ordinary sampling, then watermarked sampling
    tokens = [0]
    for _ in range(length):
        logits = torch.randn(vocab)  # stands in for a language model's next-token logits
        logits[green_list(tokens[-1])] += bias
        tokens.append(torch.multinomial(logits.softmax(0), 1).item())

    # Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
    hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
    z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
    print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")

普通采样在 200 个 token 中命中了 44 个绿色 token(z = -1.0),接近预期的 25%;带水印的运行则命中了 141 个(z = 14.9),远高于论文用于标记水印文本的 z = 4 阈值。每个 token 都会提供证据,因此较长的文本能让检测结果更可靠;而代码或事实列表等下一个 token 几乎可以确定的文本,携带的信号会较弱。

  • 内容凭证(C2PA):经过加密签名的元数据清单,记录创建或编辑文件时使用的工具。它比水印包含的信息多得多,但文件重新编码或截图后就会消失,因此两种方法通常会结合使用。
  • 深度伪造和 AI 图像检测:这类分类器会在没有嵌入标记的内容中寻找生成痕迹。它们适用于任何生成器的输出,但只能给出概率性结果,且随着生成器改进,检测效果会下降;人们也会使用类似线索,通过观察来判断图像是否由 AI 生成。
  • 隐写术:在文件中隐藏秘密消息。水印借用了隐写术的技术,但优先确保检测可靠,而不是隐藏大量数据。

对合成媒体添加标识并过滤 AI 垃圾内容的平台通常会组合使用以下检查:

鲁棒性与局限#

水印必须能够经受裁剪、调整大小、色偏和 JPEG 压缩等无害改动,理想情况下还应能抵抗对抗性攻击。开发者会对带标记内容应用类似数据增强的变换,并测量检测仍能成功的频率,以此进行测试。目前的方案存在一些已知弱点:

  • 重新生成:向图像中添加噪声,再用生成模型重建,可以去除像素级的不可见水印,同时保持图像在视觉上相似。
  • 改写和翻译:用另一个模型重写带水印的文本,或先翻译再译回,会削弱检测器所统计的 token 模式。
  • 覆盖范围:只能检测嵌入标记的提供商所生成的内容;开放权重模型可以在不加水印的情况下运行,因此没有水印并不能说明内容是否由人类创作。
  • 伪造:攻击者如果充分了解某种方案,就可以把它的标记打到人类创作的内容上,以此损害方案的公信力。

可见水印会给计算机视觉数据集带来另一个问题:模型会把水印学成捷径特征。一个广为人知的案例是,使用 PASCAL VOC 数据集训练的分类器,部分依据版权标记识别马;约五分之一的马匹照片中都出现了这种标记,而移除标记后,分类器就无法正常工作。可见标记和徽标都是普通图像内容,因此在带标签的示例上训练的 Ultralytics YOLO26目标检测模型可以在训练数据集中定位这些内容,让团队在错误线索教会模型之前裁剪或移除带标记的图像。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来