AI Slop

KI-Müll, oft kurz „Müll“ genannt, sind minderwertige digitale Inhalte, die in großen Mengen mit generativer KI und wenig menschlicher Sorgfalt erstellt werden: belanglose Artikel, befremdliche Bilder, Videos mit gesprochenem Text über Stockmaterial und maschinell erzeugte Songs, die veröffentlicht werden, um Suchzugriffe, Interaktionen oder Werbeeinnahmen zu erzielen. Merriam-Webster wählte „slop“ zum Wort des Jahres 2025 und definierte es als „digitale Inhalte von geringer Qualität, die üblicherweise mithilfe künstlicher Intelligenz in großer Menge produziert werden“. Das Macquarie Dictionary kürte im selben Jahr „AI slop“. Ausschlaggebend dafür, ob Inhalte als Müll gelten, sind die Herstellungsweise und der Zweck – nahezu kostenlose Produktion in großen Mengen – und nicht ein bestimmter Fehler darin.

Herkunft des Begriffs#

Ursprünglich bedeutete „slop“ weichen Schlamm und später Speiseabfälle, die an Schweine verfüttert wurden. Im Mai 2024 plädierte der Programmierer Simon Willison dafür, dass „slop“ zum Begriff für unerwünschte KI-Inhalte werden sollte, so wie „spam“ zum Begriff für unerwünschte E-Mails wurde. Er würdigte den Onlineautor deepfates dafür, bemerkt zu haben, dass sich das Wort zu einem Fachausdruck wandelte. Im selben Jahr füllten surreale Text-zu-Bild-Bilder wie „Shrimp Jesus“ – Bilder von Jesus, der mit Garnelen verschmolzen ist – die Facebook-Feeds. Seiten veröffentlichten sie, um Interaktionen zu erzielen. Bis 2025 umfasste der Begriff auch KI-generierte Videos, Musik, Bücher und wissenschaftliche Texte.

Warum sich KI-Müll verbreitet#

KI-Müll ist ein Geschäftsmodell. Ein Large Language Model (LLM) oder ein auf Diffusionsmodellen basierender Bildgenerator kann für den Preis eines einzigen von Menschen erstellten Beitrags Tausende Beiträge erzeugen. Feeds, deren Inhalte von einem Empfehlungssystem sortiert werden, und Werbenetzwerke vergüten Aufmerksamkeit unabhängig davon, wer oder was die Inhalte produziert hat. Ein Anbieter braucht nur einen kleinen Teil der Beiträge, die Anklang finden:

Dieses Muster zeigt sich inzwischen im gesamten Web:

• Inhaltsfarmen und Suchmaschinen-Spam: Websites produzieren massenhaft von LLMs verfasste Seiten, um bei Suchanfragen weit oben zu erscheinen. Googles Spamrichtlinien definieren den Missbrauch umfangreicher Inhalte als die Erstellung vieler Seiten, die Nutzern „unabhängig davon, wie sie erstellt wurden“ wenig Mehrwert bieten. Damit zielen die Richtlinien auf Umfang und Zweck von KI-Müll statt auf das dafür verwendete Werkzeug.
• Streaming-Plattformen: Spotify gab im September 2025 bekannt, in den vorangegangenen zwölf Monaten mehr als 75 Millionen Spam-Tracks entfernt zu haben, und YouTube benannte seine Monetarisierungsregel für „wiederholungsreiche Inhalte“ im Juli 2025 in „unauthentische Inhalte“ um, um massenproduzierte Videos abzudecken.
• Wissenschaftliches Publizieren: Eine Analyse von fast 951.000 Artikeln ergab, dass bis zu 17,5 % der Informatik-Abstracts bis Februar 2024 Anzeichen einer Überarbeitung durch LLMs zeigten. Beiträge mit geringem Aufwand und erfundenen Quellen belasten das Peer-Review-Verfahren zusätzlich.

KI-Müll und verwandte Begriffe#

• Halluzination: Eine falsche oder unbelegte Aussage in der Ausgabe eines Modells. Der Begriff „Müll“ beschreibt, wie Inhalte produziert und genutzt werden. Daher ist auch ein zutreffender, aber sinnloser Artikel Müll, und ein sorgfältig geprüfter Artikel kann eine Halluzination enthalten.
• Deepfakes: Synthetische Medien, die eine reale Person so erscheinen lassen sollen, als sage oder tue sie etwas. Müll zielt in der Regel auf Aufmerksamkeit ab, statt Zuschauer über eine bestimmte Person oder ein bestimmtes Ereignis zu täuschen.
• Modellkollaps: Die Verschlechterung von Modellen, die wiederholt mit generierten Inhalten trainiert werden. Aus dem Web abgegriffener Müll, der in die Trainingsdaten gelangt, setzt diesen Kreislauf in Gang. Deshalb entfernen Datenbereinigungs-Pipelines für Datensätze im Webmaßstab nahezu identische Beispiele und filtern minderwertige Beispiele heraus.
• Synthetische Daten: Absichtlich erzeugte, gefilterte und validierte Daten zum Trainieren von Modellen – das kontrollierte Gegenstück zu Müll.

KI-Müll erkennen und filtern#

Herkunftsnachweise sind, sofern vorhanden, die zuverlässigsten Belege. KI-Wasserzeichen betten beim Generieren ein erkennbares Signal ein, und Content Credentials (C2PA) fügen signierte Metadaten hinzu, die festhalten, mit welchem Werkzeug eine Datei erstellt oder bearbeitet wurde. So können Plattformen Inhalte kennzeichnen, wenn das verwendete Werkzeug mitwirkt. Beides hilft nicht bei Ausgaben von Werkzeugen, die keine Markierung hinzufügen, und Metadaten gehen verloren, wenn eine Datei neu codiert oder als Bildschirmfoto aufgenommen wird.

Klassifikatoren, die Inhalte nachträglich beurteilen, schließen die Lücke mit gemischten Ergebnissen. Erkennungssysteme für KI-generierte Texte schneiden schlecht ab: OpenAI stellte seinen eigenen Textklassifikator im Juli 2023 ein, nachdem er nur 26 % der KI-generierten Texte korrekt erkannt hatte. Bilder sind einfacher zu erkennen, weil Generatoren statistische Spuren hinterlassen. Einige davon sind für Menschen sichtbar, etwa verzerrte Schrift oder missgebildete Hände. Sie helfen Lesern dabei, zu erkennen, ob ein Bild KI-generiert ist, während Modelle subtilere Spuren erkennen. Ein auf gekennzeichneten echten und generierten Bildern trainiertes Ultralytics-YOLO26-Klassifikationsmodell kann wahrscheinlich KI-generierte Bilder für eine menschliche Prüfung markieren. Solche Erkennungssysteme müssen mit neuen Generatoren Schritt halten: Ein mit Bildern aus einem GAN trainierter Klassifikator ließ sich auf andere CNN-basierte Generatoren übertragen, wenn er mit Unschärfe und JPEG-Datenerweiterung trainiert wurde. Mit GANs trainierte Erkennungssysteme versagten jedoch bei Bildern aus latenten Diffusionsmodellen, und der Aufbau des Erkennungssystems auf CLIP-Merkmalen steigerte die Genauigkeit bei unbekannten Diffusions- und autoregressiven Generatoren um etwa 26 Prozentpunkte.