如何判断图像是否由 AI 生成

图像生成模型正变得越来越先进，我们看到逼真的人工智能 (AI) 图像也越来越多。随着人们越来越难以分辨 AI 图像和真实照片，关于 AI 与真实照片的讨论也变得愈发重要。AI 生成的图像曾多次骗过互联网用户。我们见过教皇方济各穿着羽绒服，也见过凯蒂·佩里出席 2024 年 Met Gala。这两张图片都是生成式 AI 伪造的。换句话说，它们并不真实。然而，乍一看，网上的人们都相信了这些图片是真的。

有时，这种混淆会令人发笑，但更多时候，它会引发严重的伦理问题。了解生成式 AI 的工作原理固然重要，知道如何判断内容是否由 AI 生成也同样关键。在本文中，我们将深入了解 AI 生成的图像，分析 AI 艺术的优缺点，探讨相关法律问题，并介绍区分 AI 图像与真实图像的主要方法和工具。

AI 生成的图像究竟是什么？#

AI 图像由图像生成模型创建，这些模型使用在大型数据集上训练的神经网络来生成逼真的图像。令人印象深刻的是，这些模型能够融合风格、概念和特征，生成富有艺术感且切合主题的图像。在训练过程中，图像生成模型会从这些图像中学习不同的特征和细节。这样一来，它们便能创作出风格和内容与所学图像相似的新图像。

图像生成模型有很多种，各自具备独特功能。例如，生成对抗网络 (GANs) 使用两个协同工作的神经网络，生成类似于训练数据的逼真图像。扩散模型通过逐步将随机噪声转化为清晰图像来生成图像。Transformer（例如 DALL-E 等模型中使用的 Transformer）则利用自注意力机制，根据文本描述生成图像。

图 1。由 DALL-E 2 生成。提示词：一把鳄梨形状的扶手椅。

任何人都可以使用 OpenAI 的 ChatGPT、Midjourney、Gencraft 或 Stable Diffusion 等工具生成 AI 图像。这些图像如今遍布互联网，而且往往没有任何标签说明它们是由 AI 生成的。

AI 艺术的优缺点#

与摄影或绘画一样，许多人将 AI 图像生成视为一种新兴艺术形式。AI 绘画作品正以数千美元的价格被出售，并赢得艺术比赛。这引出了一个问题：AI 艺术是好事吗？这类图像生成有哪些利弊？

图 2. AI 生成的艺术作品。

对此，人们有不同看法。例如，预算有限的小企业可能会认为生成式艺术是个优势。他们可以创建与品牌形象和营销需求完美契合的定制图像。这些工具能快速生成高质量的视觉素材，节省时间，并帮助创意项目按计划推进。对于艺术家的灵感而言，图像生成可以提供海量独特选项。艺术家可以轻松地先将构想可视化，再把它变成现实。

然而，AI 生成的图像往往缺乏情感深度，也难以捕捉真实的人类体验。有时，图像质量不稳定，会显得像素化或不真实。过度依赖 AI 可能会扼杀创造力和批判性思维。此外，还存在被滥用的风险。AI 图像很容易被篡改，进而导致错误信息传播。而且，使用这些工具可能需要经历陡峭的学习曲线，它们也可能带有训练数据中的偏见。以下是 AI 艺术的其他一些缺点：

• 伦理问题：关于 AI 生成艺术作品的知识产权问题，例如作者身份、所有权和版权，可能复杂且充满争议。
• 工作岗位流失：AI 在艺术领域的广泛应用可能会减少人类艺术家和设计师的就业机会。
• 文化敏感度不足：AI 艺术可能无法理解和尊重文化背景，从而产生不恰当或冒犯性的作品。

AI 生成图像涉及的法律灰色地带#

随着 AI 不断发展，我们作为一个社会，仍在积极探讨其法律影响（例如版权问题）。与传统创作不同，在美国等一些国家，AI 生成的图像无法享有版权保护，因为版权保护要求作品由人类创作。问题变得复杂，是因为 AI 训练通常涉及从互联网上抓取海量数据，其中可能包含受版权保护的材料。因此，许多人正在积极抗议将受版权保护的内容用于 AI 模型训练，并呼吁制定更完善的法规。

一些公司甚至提起了诉讼。图库图片提供商 Getty Images 对 AI 艺术生成器 Stability AI 提起了诉讼，指控对方复制并使用 Getty 的图片库以谋取商业利益。Stability AI 的文生图模型生成的几张图片上带有 Getty 的水印。DeviantArt 和另外两家 AI 公司也遭到一群艺术家的起诉；该集体诉讼称，这些公司生成的 AI 艺术作品侵犯了版权法。

如何检查图像是否由 AI 生成#

学会识别 AI 图像至关重要，因为人们越来越多地利用这类图像散布假新闻、误导大众，尤其是在选举期间。一项研究中，研究人员成功使用流行的 AI 图像生成器制造选举虚假信息，包括误导性的选民和选票图像，在 41% 的测试中都生成了此类内容。

图 3. 一张伪造图片，显示一箱选票被扔在垃圾箱里。

AI 图像也会影响消费者。Attest 最近的一项研究显示，大多数消费者（76%）无法分辨真实图像和 AI 生成图像。以下是判断图像是否由 AI 生成的方法。

检查图像标题、描述和标签#

这听起来似乎显而易见，但识别 AI 图像最简单的方法，就是查看描述和标签中是否标注了“AI 生成”。由于目前关于 AI 图像仍有许多争议，生成和/或授权使用 AI 图像的公司都在尽力公开其来源。允许在图库中收录 AI 图像的图库公司要求投稿者在图像标题、描述和标签中标注“AI 生成”（这样用户在浏览图库时就更容易搜索或排除 AI 图像）。查找这些标签是识别 AI 生成图像最简单的方法。

留意水印#

识别 AI 图像的另一种方法是查看水印，因为许多 AI 工具都会添加水印。水印可能包括小型徽标、文本或元数据。例如，OpenAI 的 DALL-E 3 使用不可见的 C2PA 元数据，并在左上角显示可见的内容凭证 (CR) 标志。不过，只有在 Content Credentials Verify 等内容凭证验证网站上查看图像时，才能看到该标志。不同公司标记图像的方式可能不同，因此你可能需要熟悉各种标识。

图 4。ChatGPT 生成的图像会包含 C2PA 元数据（来源：openai.com）

Google 最近推出了 SynthID，这是一种为 AI 图像添加水印的创新方式。SynthID 可以将数字水印直接嵌入 AI 生成内容的像素中。这种水印肉眼不可见，但可以检测出来以识别图像。SynthID 可以扫描这种数字水印，判断图像是否很可能由 AI 工具生成。

寻找图像中的失真或异常#

由于深度学习算法存在局限，AI 生成的图像往往会有瑕疵。常见异常包括：

• 模糊或异常的背景：楼梯错位、家具形状怪异、细节模糊。
• 头发不自然：纹理不自然、图案奇怪或模糊。
• 渲染过度：外观光亮而不真实，纹理既模糊又平滑。
• 配饰错误：珠宝变形、耳环不成对、物体失真。
• 手指异常：多出手指、缺少拇指或其他手部异常。

图 5。 AI 生成图像中的异常。

这些迹象有助于识别 AI 生成的图像。不过，随着 AI 技术进步，未来的 AI 图像可能会减少明显瑕疵。

使用 AI 图像识别工具#

使用 AI 图像识别工具是发现 AI 图像的另一种方式，不过要记住，这些工具的结果可能并不完全准确。下面来看看一些最受欢迎的 AI 图像检测工具：

• AI Or Not：利用先进算法和机器学习，快速鉴别真实和伪造内容。它在检测伪造 NFT 图像方面尤其有效。
• Content at Scale：这款免费且简单易用的工具会为热门生成器生成的图像提供“人类创作还是 AI 生成”的概率评分。
• Illuminarty：提供对 AI 生成图像和文本的全面分析，包括识别 AI 模型以及图像中由 AI 生成的具体区域。
• Maybe's AI Art Detector：这款工具简单易用，使用 ViT 模型为艺术图像提供人类创作与人工生成的百分比评分。
• V7 Deepfake Detector：一款 Chrome 扩展程序，可检测 StyleGAN 深度伪造图像，有助于识别虚假个人资料。
• Fake Image Detector：使用元数据和误差级别分析 (ELA) 检测经过篡改的图像，但支持的文件类型有限，而且容易崩溃。

随着 AI 生成的媒体不断传播和发展，这些工具今后会变得更加有效。

要点#

随着生成式 AI 模型越来越智能，要分辨 AI 生成的图像和真实照片也越来越困难。从技术进步的角度来看，这令人振奋，但在伦理层面也令人担忧。AI 确实提供了一种经济高效且富有创新性的视觉内容创作方式，但仍有法律和实际障碍需要考虑。值得庆幸的是，人们正在开发各种方法和工具，帮助我们应对这一新难题。只要及时了解相关信息，我们就能确保视觉内容保持可信。

加入我们的社区，进一步了解 AI！查看我们的 GitHub 代码库，了解我们如何运用 AI，为医疗保健和农业等多个行业打造创新解决方案。和我们一起开拓新机遇！