AI Slop

AI 垃圾内容通常简称为“垃圾内容”，指使用生成式 AI批量制作且缺乏人工把关的低质量数字内容，例如填充式文章、诡异的图像、配有旁白的库存素材视频，以及为吸引搜索流量、用户互动或广告收入而发布的机器生成歌曲。Merriam-Webster 将“slop”选为 2025 年度词汇，并将其定义为“通常借助人工智能大量生产的低质量数字内容”；Macquarie Dictionary 也将“AI slop”选为同年的年度词汇。判断内容是否属于垃圾内容，关键在于制作方式和目的——以近乎零成本批量产出——而不是其中是否存在某个错误。

这个术语的由来#

Slop 最初指稀软的泥浆，后来也指喂猪的残羹剩饭。2024 年 5 月，程序员 Simon Willison 认为，slop 应该像 spam 成为垃圾邮件的称呼一样，成为不受欢迎的 AI 生成内容的名称；他将这个词逐渐成为专门术语的发现归功于网络写作者 deepfates。同年，Facebook 信息流中充斥着超现实的文生图图片，例如“虾耶稣”——将耶稣与虾融合在一起的图像——这些图片由追逐用户互动的页面发布。到 2025 年，这个词也涵盖了 AI 生成的视频、音乐、书籍和学术写作。

AI 垃圾内容为何传播#

垃圾内容是一种经济产物。大型语言模型（LLM）或基于扩散模型构建的图像生成器，可以用创作一件人工内容的成本生成数千条帖子；与此同时，由推荐系统排序的信息流和广告网络只要能吸引注意力就会付费，不管内容由谁或什么生成。内容生产者只需让少数帖子走红：

如今，这种模式已遍布整个网络：

• 内容农场与搜索垃圾信息：网站批量生产由 LLM 撰写的页面以争取搜索查询排名。Google 的垃圾信息政策将规模化内容滥用定义为生成大量对用户价值不大的页面，“无论其生成方式如何”；这项政策针对的是垃圾内容的数量和目的，而非背后使用的工具。
• 流媒体平台：Spotify 于 2025 年 9 月表示，过去 12 个月内已移除超过 7500 万条垃圾曲目；YouTube 则于 2025 年 7 月将其“重复内容”变现规则更名为“非真实内容”，以涵盖批量制作的视频。
• 科学出版：一项针对近 951,000 篇论文的分析发现，截至 2024 年 2 月，多达 17.5% 的计算机科学论文摘要显示出经过 LLM 修改的迹象。低质量投稿和伪造的参考文献加重了同行评审的负担。

AI 垃圾内容与相关术语#

• 幻觉：模型输出中的错误或缺乏依据的陈述。垃圾内容描述的是内容的制作和使用方式，因此，即使一篇文章准确无误但毫无用处，它仍然是垃圾内容；经过仔细审核的文章也可能包含幻觉。
• 深度伪造：人为合成的媒体，旨在让真实人物看起来像是在说或做某件事。垃圾内容通常是为了博取关注，而不是要让观众误以为某个特定人物或事件是真的。
• 模型崩溃：反复使用生成内容训练的模型出现性能退化。网络抓取的垃圾内容进入训练数据，是这一循环开始的一种方式，因此，面向网络规模数据集的数据清洗流程会删除近乎相同的样本并过滤低质量样本。
• 合成数据：有意生成、经过筛选和验证、用于训练模型的数据，是垃圾内容的可控对应物。

检测和过滤 AI 垃圾内容#

如果存在来源信息，它就是最可靠的证据。AI 水印会在生成时嵌入可检测的信号，内容凭证（C2PA）则会附加经过签名的元数据，记录创建或编辑文件所用的工具，因此平台可以标记生成工具配合提供信息的内容。这两种方式都无法处理未添加标记的工具生成的内容；文件重新编码或被截图后，元数据也会丢失。

事后判断内容的分类器可以弥补这一缺口，但结果参差不齐。AI 文本检测器的表现并不理想：OpenAI 在 2023 年 7 月撤下了自己的文本分类器，因为它只能正确识别出 26% 的 AI 生成文本。图像更容易检测，因为生成器会留下统计特征；其中一些特征肉眼可见，例如扭曲的字母或畸形的手，这些特征有助于读者判断图像是否由 AI 生成，模型还能识别更细微的特征。使用带标签的真实图像和生成图像训练的 Ultralytics YOLO26分类模型可以标记疑似 AI 图像，供人工审核。这类检测器必须跟上新生成器的发展：使用一种 GAN 生成的图像训练的分类器，在采用模糊和 JPEG 数据增强后，能够泛化到其他基于 CNN 的生成器；然而，在 GAN 图像上训练的检测器无法识别潜在扩散模型生成的图像，而基于 CLIP 特征构建检测器，则能让对未见过的扩散式和自回归生成器的准确率提高约 26 个百分点。