Deepfakes

深度伪造是通过深度学习（DL）替换或伪造真实人物的脸、声音或身体的图像、视频或音频录音，其效果逼真到让观众误以为是真的。这个词由“deep learning”和“fake”组合而成，起源于 2017 年：一位名为“deepfakes”的 Reddit 用户开始发布使用开源工具制作的换脸视频。深度伪造是生成式 AI的一种形式，同样的技术也用于电影特效和配音，以及诈骗、骚扰和虚假信息传播。

深度伪造是如何制作的#

经典的换脸方法使用一对共享同一个编码器的自编码器。共享编码器学会将任意人脸压缩成紧凑的潜在空间编码，其中包含姿势、表情和光照信息；每个解码器则学会根据该编码重建特定人物。使用两个人的大量人脸裁剪图完成训练后，系统对人物 A 的一帧画面进行编码，再用人物 B 的解码器解码，从而生成带着人物 A 表情的人物 B 的脸：

随后出现了其他方法：

• 生成对抗网络（GAN）：生成器负责创建图像，判别器则尝试区分这些图像与真实照片；两者之间的较量会推动生成器产出更逼真的图像。StyleGAN 等 GAN 可以生成人世间并不存在的人脸。
• 扩散模型：通过逐步去除噪声来生成图像和视频，并以文本、参考照片或源视频为引导。当前的照片编辑和文生视频工具都采用了这类模型，能够仅凭一张参考照片生成某人讲话的逼真视频。
• 声音克隆：语音模型根据一段简短录音复现某人的声音，随后唇形同步模型会调整现有视频中的嘴部动作，使其与新音频匹配。

用途与危害#

深度伪造技术有正当用途。电影制片公司会让演员看起来更年轻，并将电影配成其他语言，同时匹配唇部动作。2020 年的纪录片 Welcome to Chechnya 将受迫害受访者的脸替换为志愿者的脸，在保留每个表情的同时保护了他们的身份。因疾病失去声音的患者可以保存录音，并通过克隆声音说话；生成的人脸也可作为合成数据，用于训练模型，而无需收集真实人物的照片。

深度伪造造成的危害规模更大。网上大多数深度伪造内容都是未经同意制作、针对真实人物的私密影像，受害者通常是女性。诈骗者会克隆亲属或高管的声音，要求紧急转账。2024 年初，工程公司 Arup 的一名员工参加视频会议时，公司的首席财务官和其他同事全都是深度伪造影像；会议后，这名员工转出了约 2500 万美元。选举期间，伪造的政治人物片段会广泛传播；而逼真伪造内容的存在，也让人们可以把真实录音斥为伪造。

检测深度伪造#

检测系统会寻找生成过程留下的痕迹，例如人脸周围的融合接缝、不匹配的光照和眼部反光、不自然的眨眼或头部运动、肉眼看不到的频率伪影，以及与语音逐渐不同步的唇部动作。大多数检测器会先定位并裁剪每张人脸，再将裁剪图像输入一个基于真实和篡改样本训练的分类器。Ultralytics YOLO26适用于这个第二阶段：其分类模型使用按类别划分文件夹的数据集进行训练，因此只要准备好存放人脸裁剪图的“真实”和“伪造”文件夹，就足以训练真实与伪造分类器。

检测器难以泛化到从未见过的生成方法。在 Meta 的深度伪造检测挑战赛中，获胜模型在包含新视频的隐藏测试集上取得了 65.18% 的平均精度，而在公开测试集上排名第一的模型得分为 82.56%。由于检测技术落后于生成技术，业界也会验证内容来源：内容凭证（C2PA）会附加经过密码学签名的记录，说明媒体是如何拍摄和编辑的；AI 水印则会在生成内容中嵌入隐藏信号，供检测器之后读取。

深度伪造与相关概念#

• 合成数据：用于训练或测试模型的任何人工生成数据，包括模拟驾驶场景和渲染的产品图像。当生成的人脸填充训练集时，深度伪造技术就是合成数据的一种来源。
• 计算机生成图像（CGI）：由艺术家手工建模、绑定骨骼并制作动画的数字角色和特效。视觉特效工作室越来越常在同一个镜头中结合 CGI 和基于学习的人脸替换技术。
• 浅层伪造：不借助 AI 制作的误导性编辑，例如放慢片段速度，让说话者听起来像是神志不清；或给真实视频配上虚假的背景说明。

法规#

法律现在直接规制深度伪造行为。自 2026 年 8 月 2 日起适用的欧盟《人工智能法案》第 50 条要求使用 AI 制作深度伪造内容的部署者披露内容是人工生成或经过操纵的，并要求生成式系统的提供者以机器可读格式标记其输出。在美国，2025 年 5 月签署的 TAKE IT DOWN Act 将发布未经同意的私密深度伪造内容定为联邦犯罪；自 2026 年 5 月 19 日起，受该法约束的平台必须在收到有效请求后的 48 小时内删除此类内容。