如何判断一张图片是否由人工智能生成

图像生成模型正变得越来越先进，我们看到逼真的人工智能（AI）图像正日益增多。随着区分 AI 与真实照片变得越来越困难，关于两者的争论也愈发重要。互联网上曾多次出现 AI 生成的图像蒙蔽大众的案例。我们见过教皇方济各身穿羽绒服的照片，以及 2024 年大都会艺术博物馆慈善晚宴上凯蒂·佩里的照片。这两者都是由生成式 AI 伪造的图像。换句话说，它们并非真实存在。然而，互联网初看时却信以为真。

有时，这种混淆可能会让人觉得有趣，但更多时候，它带来了严重的道德担忧。就像了解生成式 AI 的工作原理很重要一样，知道如何辨别图像是否由 AI 生成也至关重要。在本文中，我们将深入探讨 AI 生成的图像，了解 AI 艺术的利弊，讨论法律问题，并探索将它们与真实图像区分开来的关键方法和工具。

Link to this sectionAI 生成的图像究竟是什么？#

AI 图像是利用图像生成模型创建的，这些模型使用在大规模数据集上训练的神经网络来生成逼真的图像。令人印象深刻的是它们能够混合风格、概念和特征，从而创造出具有艺术感且相关的图像。在训练过程中，图像生成模型会从这些图像中学习不同的特征和细节。这样做有助于它们创造出在风格和内容上与所学图像相似的新图像。

图像生成模型的类型有很多，每种都有其独特的功能。例如，生成对抗网络（GANs）使用两个相互协作的神经网络来创建类似于其训练数据的逼真图像。扩散模型通过将随机噪声逐渐转化为清晰图像来生成图像。而 Transformer（如 DALL-E 和 CLIP 等模型中所使用的）则利用自注意力机制，根据文本描述来生成图像。

图 1. 由 DALL-E 2 生成。提示词：一把牛油果形状的扶手椅。

任何人都可以使用 OpenAI’s GPT-4o、Midjourney、Gencraft 或 Stable Diffusion 等工具来创建 AI 图像。这些图像现在出现在互联网的各个角落，而且通常没有任何标签来指明它们是由 AI 制作的。

Link to this sectionAI 艺术的利弊#

就像摄影或绘画一样，AI 图像生成正被许多人视为一种新的艺术形式。AI 画作正以数千美元的价格被出售并赢得艺术竞赛。这引出了一个问题：AI 艺术是一件好事吗？这种图像生成有哪些利弊？

图 2. 一件 AI 生成的艺术作品。

对此有不同的看法。例如，预算有限的小企业可能会将生成的艺术视为一大优点。它们可以创建完美契合品牌和营销需求的定制图像。这些工具可以通过快速制作高质量的视觉效果来节省时间，并帮助项目保持进度。就艺术家的灵感而言，图像生成可以提供海量的独特选项。艺术家可以在将想法付诸实践之前轻松地将其可视化。

然而，AI 生成的图像往往缺乏情感深度，难以捕捉真实的人类体验。有时，质量可能不稳定，图像会出现像素化或不真实的情况。过度依赖 AI 可能会抑制创造力和批判性思维。同时，还存在误用的风险。AI 图像很容易被篡改，并导致错误信息的传播。此外，使用这些工具可能需要较长的学习曲线，且它们可能会带有来自其训练数据的偏见。以下是 AI 艺术的其他一些缺点：

• 道德担忧： 关于 AI 生成艺术的知识产权问题，如作者身份、所有权和版权，可能既复杂又具有争议性。
• 工作流失： AI 在艺术领域的广泛使用可能会减少人类艺术家和设计师的机会。
• 文化不敏感： AI 艺术可能无法理解和尊重文化背景，导致出现不恰当或冒犯性的创作。

Link to this sectionAI 生成图像的法律灰色地带#

随着 AI 的进步，我们作为一个社会仍在积极探索其法律影响（如版权问题）。与传统创作不同，AI 生成的图像在美国等一些国家无法获得版权，因为它们本质上是现有作品的重组，其中许多作品本身就已经受版权保护。问题变得复杂，因为 AI 训练往往涉及从互联网上抓取的大量数据，其中可能包含受版权保护的材料。为此，许多人正积极抗议将受版权保护的内容用于 AI 模型训练，并呼吁加强监管。

一些公司甚至提起了诉讼。图片库提供商 Getty Images 对 AI 艺术生成器 Stability AI 提起诉讼，指控其为商业利益复制并使用 Getty 的图片库。Stability AI 的文本转图像模型制作的几张图片带有 Getty 的水印。DeviantArt 和另外两家 AI 公司也正受到一位艺术家的集体诉讼，该诉讼声称他们的 AI 生成艺术作品侵犯了版权法。

Link to this section如何检查图像是否由 AI 生成#

学习如何识别 AI 图像至关重要，因为它们在虚假新闻中误导公众的使用量有所增加，尤其是在选举期间。据 BBC 报道，60% 的研究人员成功利用 AI 创建了关于选票和地点的误导性图像。

图 3. 一张垃圾桶里放着选票箱的伪造图像。

AI 图像也影响着消费者。Attest 最近的一项研究显示，大多数消费者（76%）无法区分真实图像和 AI 生成的图像。以下是辨别图像是否由 AI 生成的方法。

Link to this section检查图像标题、描述和标签#

这看起来可能显而易见，但识别 AI 图像最简单的方法是检查描述和标签中是否有“AI-Generated”。由于关于 AI 图像的质疑仍然很多，生成或授权这些图像的公司正在竭尽全力对它们的来源保持透明。允许在其库中使用 AI 图像的图片社要求投稿人在图像标题、描述和标签中将文件标记为“AI-generated”（这使得在浏览目录时更容易搜索或排除 AI 图像）。寻找这些标签是识别 AI 生成图像最简单的方法。

Link to this section寻找水印#

识别 AI 图像的另一种方法是寻找水印，因为许多 AI 工具都会添加水印。这些可能包括小标志、文字或元数据。例如，OpenAI 的 DALL-E 3 使用隐形的 C2PA 元数据，并在左上角有一个可见的内容凭证（CR）符号。然而，只有在内容凭证验证网站（如 Content Credentials Verify）上查看图像时，该标志才可见。各公司标记图像的方式可能不同，因此你可能需要熟悉各种不同的指标。

图 4. 由 ChatGPT 生成的图像将包含 C2PA 元数据（来源：openai.com）

Google 最近宣布了 SynthID，这是一种为 AI 图像添加水印的创新方式。SynthID 可以将数字水印直接嵌入到 AI 生成内容的像素中。它对人眼是不可见的，但可以进行检测以进行识别。SynthID 可以通过扫描此数字水印来评估图像是否可能由 AI 工具创建。

Link to this section查看图像内是否存在扭曲或异常#

由于深度学习算法的局限性，AI 生成的图像通常存在瑕疵。常见的异常包括：

• 背景模糊或异常：错位的楼梯、形状奇怪的家具和模糊的细节。
• 头发不一致：不自然的质感、奇怪的纹理或模糊感。
• 过度渲染的外观：一种有光泽且不真实的外观，混合了模糊和平滑的质感。
• 配饰错误：扭曲的珠宝、不匹配的耳环和变形的物体。
• 奇怪的手指：多出的手指、缺失的拇指或其他手部异常。

图 5. AI 生成图像中的异常情况。

这些迹象有助于识别 AI 生成的图像。然而，AI 的进步意味着未来的 AI 图像可能具有更少的可见缺陷。

Link to this section使用 AI 图像识别工具#

使用 AI 图像识别工具是识别 AI 图像的另一种选择，尽管你应该记住它可能并不完全准确。让我们看看一些最流行的 AI 图像检测工具：

• AI Or Not：使用先进的算法和机器学习快速鉴定真假内容。它在识别虚假 NFT 图像方面特别有效。
• Content at Scale：这个免费且简单的工具可以为来自流行生成器的图像提供人类与 AI 的概率分数。
• Illuminarty：提供对 AI 生成图像和文本的全面分析，包括识别 AI 模型和特定的 AI 生成区域。
• Maybe's AI Art Detector：一个易于使用的工具，它利用 ViT 模型为艺术图像提供人类与人工的百分比评分。
• V7 Deepfake Detector：一个用于检测 StyleGAN 深度伪造图像的 Chrome 扩展程序，有助于识别虚假个人资料。
• Fake Image Detector：使用元数据和错误级别分析 (ELA) 来检测篡改图像，但文件兼容性有限，且容易出现崩溃情况。

随着 AI 生成媒体的持续传播和进步，这些工具在未来将变得更加有效。

Link to this section关键要点#

随着生成式 AI 模型变得越来越智能，将 AI 生成的图像与真实照片区分开来正变得愈发困难。虽然这在技术进步方面令人兴奋，但也引发了道德层面的担忧。不可否认，AI 提供了一种经济高效且创新的视觉效果创作方式，但我们必须考虑法律和实践障碍。值得庆幸的是，人们正在开发各种方法和工具来帮助我们应对这一新的困境。通过保持信息灵通，我们可以确保视觉内容依然值得信赖。

加入我们的社区以了解更多关于 AI 的知识！探索我们的 GitHub 仓库，了解我们如何利用 AI 在医疗保健和农业等不同行业中打造创新解决方案。与我们一起开启新机遇！