如何判断一张图片是否由人工智能生成

图像生成模型正变得越来越先进，我们看到逼真的人工智能 (AI) 图像不断增多。随着两者越来越难以区分，AI 与真实照片的辩论也变得愈发重要。在多个场景中，AI 生成的图像曾欺骗了整个互联网。我们见过教皇方济各穿着羽绒服以及凯蒂·佩里出席 2024 年Met Gala。这两者都是由生成式 AI 制造的图像。换句话说，它们不是真实的。然而，乍一看，互联网却相信它们是真的。

有时，这种混淆可能会让人觉得有趣，但更多时候，它带来了严重的道德担忧。就像了解生成式 AI 的工作原理很重要一样，知道如何辨别图像是否由 AI 生成也至关重要。在本文中，我们将深入探讨 AI 生成的图像，了解 AI 艺术的利弊，讨论法律问题，并探索将它们与真实图像区分开来的关键方法和工具。

AI 生成的图像究竟是什么？#

AI 图像是利用图像生成模型创建的，这些模型使用在大规模数据集上训练的神经网络来生成逼真的图像。令人印象深刻的是它们能够混合风格、概念和特征，从而创造出具有艺术感且相关的图像。在训练过程中，图像生成模型会从这些图像中学习不同的特征和细节。这样做有助于它们创造出在风格和内容上与所学图像相似的新图像。

图像生成模型的类型有很多，每种都有其独特的功能。例如，生成对抗网络（GANs）使用两个相互协作的神经网络来创建类似于其训练数据的逼真图像。扩散模型通过将随机噪声逐渐转化为清晰图像来生成图像。而 Transformer（如 DALL-E 和 CLIP 等模型中所使用的）则利用自注意力机制，根据文本描述来生成图像。

图 1. 由 DALL-E 2 生成。提示词：一个牛油果形状的扶手椅。

任何人都可以使用诸如OpenAI 的 GPT-4o、Midjourney、Gencraft 或 Stable Diffusion 等工具来创作 AI 图像。这些图像现在出现在互联网的各个角落，而且往往没有任何标签来表明它们是由 AI 制作的。

AI 艺术的利弊#

与摄影或绘画一样，AI 图像生成正在被许多人视为一种新的艺术形式。AI 绘画正以数千美元的价格被售出，并赢得艺术比赛。这就引发了一个问题：AI 艺术是一件好事吗，这种图像生成的优缺点是什么？

图 2. 一件 AI 生成的艺术品。

对此有不同的看法。例如，预算有限的小企业可能会将生成的艺术视为一大优点。它们可以创建完美契合品牌和营销需求的定制图像。这些工具可以通过快速制作高质量的视觉效果来节省时间，并帮助项目保持进度。就艺术家的灵感而言，图像生成可以提供海量的独特选项。艺术家可以在将想法付诸实践之前轻松地将其可视化。

然而，AI 生成的图像往往缺乏情感深度，难以捕捉真实的人类体验。有时，质量可能不稳定，图像会出现像素化或不真实的情况。过度依赖 AI 可能会抑制创造力和批判性思维。同时，还存在误用的风险。AI 图像很容易被篡改，并导致错误信息的传播。此外，使用这些工具可能需要较长的学习曲线，且它们可能会带有来自其训练数据的偏见。以下是 AI 艺术的其他一些缺点：

• 道德担忧： 关于 AI 生成艺术的知识产权问题，如作者身份、所有权和版权，可能既复杂又具有争议性。
• 工作流失： AI 在艺术领域的广泛使用可能会减少人类艺术家和设计师的机会。
• 文化不敏感： AI 艺术可能无法理解和尊重文化背景，导致出现不恰当或冒犯性的创作。

AI 生成图像的法律灰色地带#

随着 AI 的发展，作为一个社会，我们仍在积极弄清楚其法律影响（例如版权问题）。与传统创作不同，像美国这样的一些国家不能对 AI 生成的图像授予版权，因为它们本质上是对现有作品的重新混合，而其中许多作品已经受版权保护。情况变得很复杂，因为 AI 训练通常涉及从互联网上抓取的大量数据，其中可能包含受版权保护的材料。为此，许多人正在积极抗议将受版权保护的内容用于 AI 模型训练，并希望制定更好的法规。

一些公司甚至提起了诉讼。图库提供商 Getty Images 对 AI 艺术生成器 Stability AI 提起诉讼，指控其为商业利益复制并使用 Getty 的图像库。Stability AI 的文生图模型所产生的几张图像带有 Getty 的水印。DeviantArt 和另外两家 AI 公司也正面临一位艺术家发起的集体诉讼，指控其 AI 生成的艺术作品侵犯了版权法。

如何检查图像是否由 AI 生成#

学习如何识别 AI 图像至关重要，因为它们在假新闻中用于误导人们的情况有所增加，尤其是在选举期间。据 BBC 报道，60% 的研究人员成功利用 AI 制造了关于选票和地点的误导性图像。

图 3. 垃圾桶里投票箱的虚假图像。

AI 图像也会影响消费者。Attest 最近的一项研究表明，大多数消费者（76%）无法分辨真实图像与 AI 生成图像的区别。以下是如何判断图像是否由 AI 生成的方法。

检查图像标题、描述和标签#

这看起来可能显而易见，但识别 AI 图像最简单的方法是检查描述和标签中是否有“AI-Generated”。由于关于 AI 图像的质疑仍然很多，生成或授权这些图像的公司正在竭尽全力对它们的来源保持透明。允许在其库中使用 AI 图像的图片社要求投稿人在图像标题、描述和标签中将文件标记为“AI-generated”（这使得在浏览目录时更容易搜索或排除 AI 图像）。寻找这些标签是识别 AI 生成图像最简单的方法。

寻找水印#

识别 AI 图像的另一种方法是寻找水印，因为许多 AI 工具都会添加水印。这些可能包括小徽标、文本或元数据。例如，OpenAI 的 DALL-E 3 使用了不可见的 C2PA 元数据，并在左上角显示可见的内容凭证 (CR) 符号。但是，该徽标仅在内容凭证验证网站（例如 Content Credentials Verify）上检查图像时才可见。不同公司标记其图像的方式可能有所不同，因此你可能需要熟悉各种指示标志。

图 4. 由 ChatGPT 生成的图像将包含 C2PA 元数据（来源：openai.com）

Google 最近宣布了 SynthID，这是一种为 AI 图像添加水印的创新方式。SynthID 可以将数字水印直接嵌入到 AI 生成内容的像素中。它对人眼是不可见的，但可以进行检测以进行识别。SynthID 可以通过扫描此数字水印来评估图像是否可能由 AI 工具创建。

查看图像内是否存在扭曲或异常#

由于深度学习算法的局限性，AI 生成的图像通常存在瑕疵。常见的异常包括：

• 背景模糊或异常：错位的楼梯、形状奇怪的家具和模糊的细节。
• 头发不一致：不自然的质感、奇怪的纹理或模糊感。
• 过度渲染的外观：一种有光泽且不真实的外观，混合了模糊和平滑的质感。
• 配饰错误：扭曲的珠宝、不匹配的耳环和变形的物体。
• 奇怪的手指：多出的手指、缺失的拇指或其他手部异常。

图 5. AI 生成图像中的异常现象。

这些迹象有助于识别 AI 生成的图像。然而，AI 的进步意味着未来的 AI 图像可能具有更少的可见缺陷。

使用 AI 图像识别工具#

使用 AI 图像识别工具是识别 AI 图像的另一种选择，尽管你应该记住它可能并不完全准确。让我们看看一些最流行的 AI 图像检测工具：

• AI Or Not：使用先进的算法和机器学习来快速鉴别真实和虚假内容。它对虚假 NFT 图像尤其有效。
• Content at Scale：这个免费且直接的工具为来自流行生成器的图像提供“人类与 AI 概率”得分。
• Illuminarty：提供对 AI 生成图像和文本的综合分析，包括识别 AI 模型和特定的 AI 生成区域。
• Maybe's AI Art Detector：一个易于使用的工具，使用 ViT 模型为艺术图像提供人工与人工智能的百分比得分。
• V7 Deepfake Detector：一个用于检测 StyleGAN 深度伪造图像的 Chrome 扩展程序，有助于识别虚假个人资料。
• Fake Image Detector：使用元数据和错误级别分析 (ELA) 来检测被篡改的图像，但文件兼容性有限且偶尔会崩溃。

随着 AI 生成媒体的持续传播和进步，这些工具在未来将变得更加有效。

关键要点#

随着生成式 AI 模型变得越来越智能，将 AI 生成的图像与真实照片区分开来正变得愈发困难。虽然这在技术进步方面令人兴奋，但也引发了道德层面的担忧。不可否认，AI 提供了一种经济高效且创新的视觉效果创作方式，但我们必须考虑法律和实践障碍。值得庆幸的是，人们正在开发各种方法和工具来帮助我们应对这一新的困境。通过保持信息灵通，我们可以确保视觉内容依然值得信赖。

联系我们的社区以了解更多关于 AI 的信息！探索我们的GitHub 仓库，看看我们如何利用 AI 在医疗保健和农业等各个行业创造创新解决方案。与我们一起开启全新机遇！