如何判断图像是否由 AI 生成

图像生成模型正变得越来越先进，我们也看到了更多逼真的人工智能（AI）图像。随着区分 AI 图片和真实照片变得越来越困难，AI 与真实照片之争也变得更加相关。已经有多种情况表明，AI 生成的图片成功骗过了互联网用户。我们看到过教皇方济各穿着羽绒服，也看到过凯蒂·佩里出席 2024 年 Met Gala 的照片。这两张图片都是生成式 AI 制造的。换句话说，它们并不真实。然而，乍看之下，互联网用户相信它们是真实的。

有时，这种混淆可能很有趣，但更多时候，它会带来严重的伦理问题。正如了解生成式 AI 的工作原理很重要一样，知道如何判断某样东西是否由 AI 生成也至关重要。本文将深入了解 AI 生成的图片，分析 AI 艺术的优缺点，讨论法律问题，并探索区分 AI 图片与真实图片的关键方法和工具。

AI 生成的图片究竟是什么？#

AI 图片使用图像生成模型创建，这些模型利用在大型数据集上训练的神经网络来生成逼真的图像。令人印象深刻的是，它们能够融合风格、概念和特征，创作出具有艺术性且切合主题的图像。在训练过程中，图像生成模型会从这些图像中学习不同的特征和细节。这样可以帮助它们创建风格和内容与所学图像相似的新图像。

图像生成模型有很多类型，每种模型都有自己的特色。例如，生成对抗网络（GANs）使用两个协同工作的神经网络，生成类似于训练数据的逼真图像。扩散模型通过逐步将随机噪声转换为清晰图像来生成图像。Transformer（例如 DALL-E 和 CLIP 等模型中使用的 Transformer）利用自注意力机制，根据文本描述生成图像。

图 1。由 DALL-E 2 生成。提示词：一把鳄梨形状的扶手椅。

任何人都可以使用 OpenAI 的 GPT-4o、Midjourney、Gencraft 或 Stable Diffusion 等工具创建 AI 图片。这些图片如今遍布互联网，而且通常没有任何标签说明它们是由 AI 制作的。

AI 艺术的优缺点#

和摄影或绘画一样，许多人正在将 AI 图像生成视为一种新的艺术形式。AI 画作被以数千美元的价格出售，并在艺术比赛中获奖。这引出了一个问题：AI 艺术是好事吗？这种图像生成方式有哪些优缺点？

图 2。一件 AI 生成的艺术作品。

对此，人们有不同的看法。例如，预算有限的小型企业可能会将生成式艺术视为一项优势。它们可以创建完全符合品牌和营销需求的定制图像。这些工具能够快速生成高质量的视觉内容，从而节省时间，并帮助创意项目按计划推进。对于艺术家的灵感而言，图像生成可以提供一个包含大量独特选项的资源库。艺术家可以先轻松将想法视觉化，再将其变为现实。

然而，AI 生成的图片通常缺乏情感深度，也难以捕捉真实而深刻的人类体验。有时，图像质量可能不稳定，图片会显得像素化或不真实。过度依赖 AI 可能会抑制创造力和批判性思维。此外，还存在滥用风险。AI 图片很容易被操纵，并可能导致错误信息传播。使用这些工具也可能需要经历较长的学习过程，而且它们可能带有训练数据中的偏见。以下是 AI 艺术的其他一些缺点：

• 伦理问题： 关于 AI 生成艺术作品的作者身份、所有权和版权等知识产权问题，可能复杂且充满争议。
• 工作岗位流失： AI 在艺术领域的广泛使用可能会减少人类艺术家和设计师的就业机会。
• 文化不敏感： AI 艺术可能无法理解和尊重文化背景，从而创作出不恰当或冒犯性的作品。

AI 生成图片的法律灰色地带#

随着 AI 的发展，我们作为一个社会仍在积极厘清其法律影响（例如版权问题）。与传统创作不同，在美国等一些国家，AI 生成的图片无法获得版权，因为它们本质上是现有作品的重新组合，而其中许多作品本身已经受版权保护。问题之所以复杂，是因为 AI 训练通常涉及从互联网抓取海量数据，其中可能包含受版权保护的材料。因此，许多人正在积极抗议将受版权保护的内容用于 AI 模型训练，并希望制定更完善的法规。

一些公司甚至已经提起诉讼。图库图片提供商 Getty Images 对 AI 艺术生成器 Stability AI 提起了诉讼，指控其复制 Getty 的图片库并将其用于商业获利。Stability AI 的文生图模型生成的多张图片都带有 Getty 的水印。DeviantArt 和另外两家 AI 公司也正被一名艺术家以集体诉讼的方式起诉，该艺术家声称它们生成的 AI 艺术作品侵犯了版权法。

如何检查一张图片是否由 AI 生成#

学会识别 AI 图片至关重要，因为它们被用于假新闻来误导公众的情况有所增加，尤其是在选举期间。据 BBC 报道，60% 的研究人员成功使用 AI 创建了有关选票和投票地点的误导性图片。

图 3。垃圾箱中装有选票箱的虚假图片。

AI 图片也会影响消费者。Attest 最近的一项研究显示，大多数消费者（76%）无法区分真实图片和 AI 生成的图片。下面介绍如何判断一张图片是否由 AI 生成。

检查图片标题、描述和标签#

这看似显而易见，但识别 AI 图片最简单的方法，就是检查描述和标签中是否有“AI 生成”字样。由于人们对 AI 图片仍有诸多疑问，生成和/或授权这些图片的公司都在尽力透明地说明其来源。允许 AI 图片进入其图库的图库机构会要求贡献者在图片标题、描述和图片标签中标注“AI 生成”（这样用户在浏览图库时就能更容易地搜索或排除 AI 图片）。查找这些标签是识别 AI 生成图片最简单的方法。

查找水印#

识别 AI 图片的另一种方法是查找水印，因为许多 AI 工具都会添加水印。水印可能包括小型徽标、文本或元数据。例如，OpenAI 的 DALL-E 3 使用不可见的 C2PA 元数据，并在左上角显示可见的内容凭证（CR）符号。不过，只有在 Content Credentials Verify 等内容凭证验证网站上检查图片时，才能看到该徽标。不同公司可能会以不同方式标记图片，因此你可能需要熟悉各种标识。

图 4。ChatGPT 生成的图片将包含 C2PA 元数据（来源：openai.com）

Google 最近宣布推出 SynthID，这是一种为 AI 图片添加水印的创新方式。SynthID 可以将数字水印直接嵌入 AI 生成内容的像素中。人眼无法看到该水印，但可以通过检测来识别。SynthID 可以扫描这种数字水印，以评估某张图片是否可能由 AI 工具创建。

查找图片中的变形或异常#

由于深度学习算法存在局限，AI 生成的图片通常会有瑕疵。常见异常包括：

• 模糊或异常的背景：楼梯错位、家具形状奇怪，以及细节模糊。
• 头发不一致：纹理不自然、图案奇怪或画面模糊。
• 过度渲染的外观：光泽感过强且不真实，纹理有的模糊、有的平滑。
• 配饰错误：珠宝变形、耳环不匹配，以及物体扭曲。
• 奇怪的手指：多余的手指、缺失的拇指或其他手部异常。

图 5。 AI 生成图片中的异常。

这些迹象有助于识别 AI 生成的图片。不过，随着 AI 技术的发展，未来的 AI 图片可能会出现更少的明显瑕疵。

使用 AI 图片识别工具#

使用 AI 图片识别工具是发现 AI 图片的另一种选择，但你需要注意，这些工具可能并不完全准确。下面来看看一些最受欢迎的 AI 图片检测工具：

• AI Or Not：使用先进算法和机器学习快速鉴别真实和虚假内容。它在识别虚假 NFT 图片方面尤其有效。
• Content at Scale：这款免费且简单易用的工具可以为热门生成器生成的图片提供“人类 vs. AI 概率”评分。
• Illuminarty：提供对 AI 生成图片和文本的全面分析，包括识别 AI 模型和具体的 AI 生成区域。
• Maybe's AI Art Detector：这是一款易于使用的工具，利用 ViT 模型为艺术图片提供人类与人工生成的百分比评分。
• V7 Deepfake Detector：一款用于检测 StyleGAN 深度伪造图片的 Chrome 扩展程序，有助于识别虚假个人资料。
• Fake Image Detector：使用元数据和误差级别分析（ELA）检测经过操纵的图片，但文件兼容性有限且容易崩溃。

随着 AI 生成的媒体不断传播和发展，这些工具未来将变得更加有效。

要点总结#

随着生成式 AI 模型变得更加智能，区分 AI 生成的图片和真实照片正变得越来越困难。这在推动技术进步的同时，也带来了伦理方面的担忧。诚然，AI 提供了一种经济高效且创新的视觉内容创作方式，但其中也有需要考虑的法律和实际障碍。值得庆幸的是，人们正在开发各种方法和工具，帮助我们应对这一新难题。通过及时了解相关信息，我们可以确保视觉内容保持可信。

加入我们的社区，进一步了解 AI！探索我们的 GitHub 代码仓库，了解我们如何利用 AI 为医疗保健、农业等各行业创建创新解决方案。与我们一起开启新的机遇！