Foundation Model

Ein Grundlagenmodell stellt einen bedeutenden Paradigmenwechsel im Bereich der Künstlichen Intelligenz (AI) dar. Es handelt sich um ein groß angelegtes Machine-Learning-Modell, das mit einer enormen Datenmenge trainiert wurde – häufig mit Milliarden von Parametern – und an eine Vielzahl nachgelagerter Aufgaben angepasst werden kann. Im Gegensatz zu herkömmlichen Machine-Learning-Modellen (ML), die in der Regel für einen bestimmten, einzelnen Zweck entwickelt werden, etwa zur Klassifizierung einer bestimmten Blumenart, erlernt ein Grundlagenmodell während einer ressourcenintensiven Vortrainingsphase übergreifende Muster, Strukturen und Zusammenhänge. Diese breite Wissensbasis ermöglicht es Entwicklern, das Modell mithilfe von Transferlernen auf neue Probleme anzuwenden und dadurch den Zeit- und Datenaufwand für Ergebnisse auf dem Stand der Technik erheblich zu reduzieren.

Kernmechanismen: Vortraining und Anpassung#

Die Leistungsfähigkeit eines Grundlagenmodells beruht auf seinem zweistufigen Entwicklungsprozess: Vortraining und Feinabstimmung. Während des Vortrainings wird das Modell umfangreichen Datensätzen ausgesetzt, etwa großen Teilen des Internets, vielfältigen Bildsammlungen oder umfangreichen Code-Repositorien. In dieser Phase kommt häufig selbstüberwachtes Lernen zum Einsatz, bei dem das Modell seine eigenen Labels aus der Datenstruktur selbst erzeugt und dadurch den Engpass der manuellen Datenannotation beseitigt. So kann ein Sprachmodell beispielsweise lernen, das nächste Wort in einem Satz vorherzusagen, während ein Bildverarbeitungsmodell lernt, Kanten, Texturen und die Persistenz von Objekten zu verstehen.

Nach dem Vortraining dient das Modell als vielseitiger Ausgangspunkt. In einem als Feinabstimmung bezeichneten Prozess können Entwickler die Gewichte des Modells anhand eines kleineren, domänenspezifischen Datensatzes anpassen. Diese Fähigkeit ist zentral für die Demokratisierung der KI, da sie Organisationen mit begrenzten Rechenressourcen ermöglicht, leistungsfähige Architekturen zu nutzen. Moderne Arbeitsabläufe verwenden häufig Tools wie die Ultralytics Platform, um diesen Anpassungsprozess zu vereinfachen und ein effizientes Training mit benutzerdefinierten Datensätzen zu ermöglichen, ohne ein neuronales Netzwerk von Grund auf neu entwickeln zu müssen.

Anwendungen in der Praxis#

Grundlagenmodelle bilden das Rückgrat von Innovationen in verschiedenen Branchen. Ihre Fähigkeit zur Verallgemeinerung macht sie für Aufgaben von der Verarbeitung natürlicher Sprache bis hin zur fortgeschrittenen Computer Vision einsetzbar.

• Computer Vision im Gesundheitswesen: Spezialisierte visuelle Foundation-Modelle können für die Unterstützung bei der medizinischen Bildanalyse feinabgestimmt werden. Ein Modell, das ursprünglich mit allgemeinen Bildern trainiert wurde, kann angepasst werden, um Tumore in MRT-Aufnahmen zu erkennen oder Wulstfrakturen auf Röntgenbildern zu identifizieren. Diese Anwendung zeigt, wie ein allgemeines visuelles Verständnis in lebensrettende Diagnosewerkzeuge überführt werden kann.
• Industrielle Automatisierung: In der Fertigung dienen Bildverarbeitungsmodelle wie Ultralytics YOLO26 als grundlegende Architekturen für die Objekterkennung. Fabriken nutzen diese Modelle, um die Qualitätsprüfung zu automatisieren und Fehler in Montagelinien schnell und präzise zu erkennen. Das bereits vorhandene Wissen des Modells über Objektgrenzen beschleunigt die Einführung dieser Lösungen für die intelligente Fertigung.

Beispiel für die technische Umsetzung#

Entwickler können Grundlagenmodelle nutzen, um komplexe Aufgaben mit minimalem Code auszuführen. Das folgende Beispiel zeigt, wie ein vortrainiertes YOLO26-Modell – ein für Echtzeitanwendungen optimiertes Grundlagenmodell für die Bildverarbeitung – geladen und zur Objekterkennung in einem Bild verwendet wird.

from ultralytics import YOLO

# Load a pre-trained YOLO26 foundation model
# 'n' stands for nano, the smallest and fastest version
model = YOLO("yolo26n.pt")

# Perform inference on an image to detect objects
# The model uses its pre-trained knowledge to identify common objects
results = model("https://ultralytics.com/images/bus.jpg")

# Display the results
results[0].show()

Wichtige Begriffe im Vergleich#

Um ihre spezifischen Rollen zu verstehen, ist es hilfreich, das „Grundlagenmodell“ von verwandten Konzepten aus dem KI-Umfeld zu unterscheiden:

• Großes Sprachmodell (LLM): Ein LLM ist ein Typ von Grundlagenmodell, das speziell für die Verarbeitung und Erzeugung von Text entwickelt wurde. Zwar sind alle LLMs Grundlagenmodelle, aber nicht alle Grundlagenmodelle sind LLMs; zu dieser Kategorie gehören auch Bildverarbeitungsmodelle wie SAM (Segment Anything Model) und multimodale Systeme.
• Transferlernen: Dabei handelt es sich um die Technik, mit der ein Grundlagenmodell auf eine neue Aufgabe angewendet wird. Das Grundlagenmodell ist das Artefakt, also das gespeicherte neuronale Netzwerk, während Transferlernen den Prozess bezeichnet, durch den das Wissen dieses Artefakts für einen bestimmten Anwendungsfall aktualisiert wird, etwa für die Schädlingsbekämpfung in der Landwirtschaft.
• Generative KI: Damit sind Systeme gemeint, die neue Inhalte wie Texte, Bilder oder Code erstellen können. Viele Grundlagenmodelle bilden die Basis generativer KI-Anwendungen, können aber auch für diskriminative Aufgaben wie die Klassifizierung oder die Objektverfolgung eingesetzt werden, die nicht im eigentlichen Sinn „generativ“ sind.

Zukünftige Entwicklungen und Auswirkungen#

Die Entwicklung von Grundlagenmodellen bewegt sich in Richtung multimodaler KI, bei der ein einziges System gleichzeitig Informationen aus Texten, Bildern, Audiodaten und Sensordaten verarbeiten und miteinander in Beziehung setzen kann. Forschungen von Einrichtungen wie dem Stanford Institute for Human-Centered AI (HAI) verdeutlichen das Potenzial dieser Systeme, die Welt zunehmend auf eine menschenähnliche Weise zu verstehen. Mit der zunehmenden Effizienz dieser Modelle wird ihr Einsatz auf Geräten für Edge Computing immer praktikabler, sodass leistungsfähige KI-Funktionen direkt auf Smartphones, Drohnen und IoT-Sensoren bereitgestellt werden können.