Generative AI

Generative KI ist der Bereich der künstlichen Intelligenz (AI), in dem Modelle die Wahrscheinlichkeitsverteilung ihrer Trainingsdaten erlernen und daraus neue Daten erzeugen: Texte, Bilder, Audio, Videos, Code, 3D-Szenen oder Molekülstrukturen. Ein diskriminatives Modell lernt p(label | input), also die Wahrscheinlichkeit eines Labels bei einer gegebenen Eingabe. Ein generatives Modell lernt hingegen p(input) selbst oder p(input | prompt) und kann dadurch Eingaben erzeugen, die zuvor nicht existierten. Der Begriff verbreitete sich im Alltag, nachdem OpenAI am 30. November 2022 ChatGPT veröffentlicht hatte. Die Methoden sind jedoch älter: Diederik Kingma und Max Welling stellten 2013 den Variational Autoencoder vor, und Ian Goodfellow und Kollegen führten 2014 generative adversariale Netzwerke ein.

So funktionieren generative Modelle#

Vier Familien von Deep-Learning-Modellen erzeugen heute den Großteil generativer KI. Jedes große Sprachmodell (LLM) nach Art von GPT gehört zur ersten Familie:

• Autoregressive Transformer: Erzeugen Sequenzen Token für Token. Jedes Token hängt von allem bisher Geschriebenen ab. Dieses Verfahren wird für Texte, Code, Sprache und tokenisierte Bilder eingesetzt.
• Diffusionsmodelle: Fügen Trainingsbeispielen Rauschen hinzu und lernen, es schrittweise zu entfernen. Bei der Generierung wird so ausgehend von reinem Rauschen durch Entrauschen ein Beispiel erzeugt. Stable Diffusion, im August 2022 veröffentlicht, führt diesen Prozess in einem komprimierten latenten Raum aus.
• Generative adversariale Netzwerke (GANs): Trainieren einen Generator gegen einen Diskriminator, der echte von generierten Beispielen unterscheiden soll. Dadurch erzeugt der Generator in einem einzigen Vorwärtsdurchlauf realistische Ergebnisse.
• Variationale Autoencoder (VAEs): Kodieren Daten in einen latenten Raum mit bekannter Verteilung und dekodieren daraus gezogene Stichproben. Latente Diffusionsmodelle verwenden einen VAE, um Bilder vor dem Entrauschen zu komprimieren.

Die Grundidee lässt sich in wenigen Zeilen erklären. Ein gaußsches Mischmodell lernt die Verteilung der 150 Blumen im Iris-Datensatz und erzeugt neue Blumen. Ein mit denselben Daten trainierter diskriminativer Klassifikator ordnet ihnen Labels zu:

from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression
from sklearn.mixture import GaussianMixture

iris = load_iris()  # 150 Blumen: Kelchblatt- und Blütenblattlänge und -breite in cm

# Diskriminatives Modell: lernt p(species | measurements) und kann daher nur Blumen klassifizieren
classifier = LogisticRegression(max_iter=1000).fit(iris.data, iris.target)

# Generatives Modell: lernt p(measurements) selbst und kann daher neue Blumen erzeugen
generator = GaussianMixture(n_components=3, random_state=0).fit(iris.data)
new_flowers, _ = generator.sample(3)

# Das diskriminative Modell klassifiziert die erzeugten Beispiele
for flower, species in zip(new_flowers.round(1), classifier.predict(new_flowers)):
    print(flower, iris.target_names[species])

Die drei erzeugten Blumen, etwa eine mit 4,7 cm langen Kelchblättern und 1,4 cm langen Blütenblättern, wurden nie vermessen. Dennoch ordnet der Klassifikator sie den Arten versicolor, setosa und virginica zu, weil die drei Cluster des Mischmodells den drei Arten entsprechen. Ein Text- oder Bildgenerator ersetzt die drei Gaußverteilungen durch ein neuronales Netzwerk mit Milliarden Parametern und die Messwerte durch Token oder Pixel.

Generative und diskriminative Modelle gemeinsam#

Bildklassifizierung und Objekterkennung sind diskriminative Aufgaben: YOLO26 ordnet einem Bild Boxen und Klassen zu und kann kein Bild zeichnen. Die beiden Modellarten werden häufig nacheinander eingesetzt. Die klassenbasierte intelligente Annotation der Ultralytics Platform verwendet generative Vision-Language-Modelle (VLMs), standardmäßig Moondream 3.1, um Boxen für die Klassennamen eines Datensatzes zu zeichnen. Diese geprüften Boxen dienen anschließend als Beschriftungen zum Trainieren eines YOLO26-Detektors.

Generatoren erzeugen außerdem synthetische Daten für seltene Ereignisse, die teuer oder gefährlich zu fotografieren sind, etwa ungewöhnliche Defekte oder Gefahren im Straßenverkehr. Pipelines zur Erzeugung synthetischer Daten mischen solche Bilder für das Training mit realen Bildern. Auch der umgekehrte Ansatz ist verbreitet: Detektoren und Klassifikatoren bewerten die Qualität generierter Bilder oder markieren unsichere Inhalte.

Anwendungen#

• Textgenerierung: Chat-Assistenten, Zusammenfassungen und Übersetzungen basieren auf LLMs. Programmierassistenten schreiben und testen Software anhand einer Beschreibung.
• Text-zu-Bild: Modelle wie Stable Diffusion erzeugen Bilder anhand von Eingabeaufforderungen. Dieselben Modelle füllen maskierte Bereiche eines Fotos oder ersetzen sie.
• Text-zu-Video: Modelle wie OpenAIs Sora, im Februar 2024 erstmals vorgestellt, erzeugen Videoclips anhand einer Beschreibung.
• Molekülstruktur: AlphaFold 3 von Google DeepMind und Isomorphic Labs, im Mai 2024 veröffentlicht, sagt die Strukturen von Proteinkomplexen mithilfe eines diffusionsbasierten Moduls voraus, das Atomkoordinaten erzeugt.

Risiken und Grenzen#

Sprachgeneratoren halluzinieren flüssig formulierte, aber falsche Aussagen. Bild- und Sprachgeneratoren ermöglichen Deepfakes, und das Training mit Webdaten wirft Fragen zum Urheberrecht und zur Einwilligung auf. Wasserzeichen für KI und C2PA-Inhaltsnachweise kennzeichnen generierte Medien, damit sie später identifiziert werden können. Generierte Inhalte fließen auch wieder in Trainingsdaten ein: Ilia Shumailov und Kollegen zeigten in The Curse of Recursion, das 2024 in Nature veröffentlicht wurde, dass Modelle, die wiederholt mit ihren eigenen Ausgaben trainiert werden, die seltenen Randbereiche der ursprünglichen Verteilung verlieren. Sie bezeichneten dieses Versagen als Modellkollaps.