Compound AI Systems

Zusammengesetzte KI-Systeme sind KI-Anwendungen, die aus mehreren miteinander interagierenden Komponenten statt aus einem einzelnen Modell bestehen. Ein System kann Modelle, Dienste für den Informationsabruf, Datenbanken, deterministische Regeln, externe Tools und menschliche Prüfung zu einem koordinierten Arbeitsablauf verbinden. In der Computer Vision kann beispielsweise ein Modell Objekte erkennen, während eine Tracking-Software Identitäten verwaltet, Geschäftsregeln Ereignisse interpretieren und Überwachungsdienste die Leistung im Produktivbetrieb beobachten. Das entscheidende Merkmal ist die Zusammensetzung: Das Verhalten auf Systemebene entsteht daraus, wie die Teile Informationen austauschen und Entscheidungen treffen.

Funktionsweise zusammengesetzter KI-Systeme#

Ein zusammengesetztes System teilt eine größere Aufgabe in spezialisierte Stufen auf. Typische Komponenten sind Datenvorverarbeitung, ein oder mehrere KI-Modelle, Speicher, Validierungslogik, Programmierschnittstellen und eine Orchestrierungsschicht. Klare Schnittstellenverträge, wie sie in der OpenAPI-Spezifikation beschrieben sind, legen fest, welche Daten jeder Dienst akzeptiert und zurückgibt.

Die Steuerung kann deterministisch erfolgen, indem herkömmlicher Code die Komponenten in einer festen Reihenfolge aufruft, oder dynamisch, indem eine Schicht zur Orchestrierung von KI-Agenten zur Laufzeit Tools und Pfade auswählt. Die KI-Orchestrierung koordiniert Abhängigkeiten, Wiederholungsversuche, Ressourcen und den Datenfluss innerhalb der Anwendung.

Zu den gängigen Mustern gehören die abrufgestützte Generierung, bei der der Informationsabruf ein Sprachmodell mit Kontext versorgt, sowie Sensorfusionspipelines, die Kameras, Radar oder andere Eingaben kombinieren. Die übergeordnete Entwicklung weg von isolierten Modellen hin zu integrierten Systemen wird in der Übersicht von Berkeley AI Research zu zusammengesetzten KI-Systemen beschrieben. (bair.berkeley.edu)

Warum zusammengesetzte Systeme wichtig sind#

Durch die Zusammensetzung können Entwickler eine Anwendung verbessern, ohne ein einziges riesiges Modell neu zu trainieren. Eine spezialisierte Komponente kann ersetzt, skaliert oder optimiert werden, während der übrige Arbeitsablauf stabil bleibt. Regeln und Validierungsstufen können außerdem mehr Kontrolle bieten, als sich vollständig auf die probabilistische Ausgabe eines Modells zu verlassen.

Diese Vorteile bringen Abwägungen auf Systemebene mit sich:

• Fehlerweitergabe: Eine fehlerhafte Erkennung, ein fehlgeschlagener Informationsabruf oder eine nicht verfügbare API kann jede nachgelagerte Entscheidung beeinflussen.
• Latenz und Kosten: Jeder Modellaufruf, jede Netzwerkanfrage und jede Verifizierungsstufe beansprucht einen Teil des gesamten Antwortbudgets.
• Schnittstellenabweichungen: Die Aktualisierung eines Dienstes kann dessen Ausgabeformat oder Annahmen ändern und dadurch eine andere Komponente unbemerkt beeinträchtigen.
• Erschwerte Evaluierung: Eine leistungsstarke Komponente garantiert kein leistungsstarkes Ergebnis von Anfang bis Ende.

Daher müssen sich Abläufe für maschinelles Lernen auf den gesamten Arbeitsablauf erstrecken. Die Anleitung zur Beobachtbarkeit mit OpenTelemetry erklärt, wie Traces, Metriken und Protokolle sichtbar machen, was innerhalb verteilter Dienste geschehen ist, während MLflow-Experimentverfolgung Modellkonfigurationen und Evaluierungsergebnisse aufzeichnen kann. (opentelemetry.io)

Verwandte Konzepte und wichtige Unterschiede#

Ein zusammengesetztes KI-System ist nicht einfach eine andere Bezeichnung für ein komplexes Modell.

Ein Modellensemble kombiniert die Vorhersagen mehrerer Modelle, häufig durch Abstimmung, Mittelwertbildung oder Stacking. Ein Ensemble kann eine Komponente innerhalb eines zusammengesetzten Systems sein, verfügt jedoch in der Regel nicht über Datenbanken, Tools, Arbeitsablauflogik und operative Dienste.

Ein agentengesteuerter Arbeitsablauf ermöglicht es Modellen, Aktionen oder Tools autonom auszuwählen. Zusammengesetzte Systeme sind umfassender: Viele verwenden feste Pipelines, ereignisgesteuerte Dienste oder menschliche Genehmigungen ohne autonome Agenten.

Ebenso ist RAG ein bestimmtes zusammengesetztes Muster, das Informationsabruf und Generierung miteinander verbindet. Zusammengesetzte KI kann auch Computer Vision, Prognosen, Optimierung, Robotik und herkömmliche Software koordinieren, ohne ein Sprachmodell zu verwenden.

Anwendungen in der Praxis#

• Visuelle Qualitätsprüfung in der Fertigung: Eine Kamera nimmt Produkte auf, ein Ultralytics YOLO26-Modell erkennt Fehler, regelbasierte Logik prüft Schweregrad und Position, und ein Produktionssystem weist jeden Artikel zurück oder gibt ihn frei. Unsichere Fälle können an einen menschlichen Prüfer weitergeleitet werden, während gespeicherte Bilder ein späteres erneutes Training unterstützen.

• Verkehrs- und Parkraumanalyse: Die Erkennung identifiziert Fahrzeuge, Mehrfachobjektverfolgung hält Identitäten über mehrere Einzelbilder hinweg aufrecht, geometrische Logik bestimmt die Belegung von Fahrspuren oder Parkbereichen, und Dashboards aggregieren Zählungen und Warnmeldungen. Fehler können zu Doppelzählungen, übersehenen Stauereignissen oder falschen Schätzungen der Verfügbarkeit führen, daher muss jede Stufe gemeinsam getestet werden.

Das folgende vereinfachte Beispiel zeigt, wie Erkennungen in eine deterministische Entscheidungslogik einfließen:

from ultralytics import YOLO

# Perception component
model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Policy component
person_class = next(i for i, name in result.names.items() if name == "person")
person_count = int((result.boxes.cls == person_class).sum())
decision = "review" if person_count >= 4 else "continue"

print({"people_detected": person_count, "next_step": decision})
result.save(filename="compound_system_input.jpg")

Hier erzeugt YOLO strukturierte Beobachtungen, während eine separate Richtlinienlogik die nächste Aktion bestimmt. Ein Produktivsystem könnte Speicher, Benachrichtigungen, Zugriffskontrollen oder menschliche Prüfung ergänzen.

Praktische Hinweise zum Entwurf#

Beginne mit einem messbaren Ziel für den gesamten Arbeitsablauf und weise anschließend jeder Komponente eine klar abgegrenzte Verantwortung zu. Definiere an jeder Schnittstelle Schemata und Zeitüberschreitungen, teste Komponenten unabhängig voneinander und bewerte realistische Arbeitsabläufe statt ausschließlich die Modellgenauigkeit.

Verwende Traces, um einzelne Anfragen nachzuverfolgen, lege Latenz- und Kostenbudgets fest und stelle Wiederholungsversuche oder sichere Ausweichlösungen für nicht verfügbare Dienste bereit. Kubernetes-Zustandsprüfungen veranschaulichen, wie bereitgestellte Dienste Bereitschafts- und Lebensfähigkeitssignale bereitstellen können.

Risikokontrollen sollten das gesamte System abdecken, einschließlich Datenzugriff, externer Tools, menschlicher Übersteuerungen und nachgelagerter Folgen. Das NIST-Rahmenwerk für das Risikomanagement von KI bietet eine am Lebenszyklus ausgerichtete Anleitung zur Steuerung, Messung und Verwaltung dieser Risiken. Teams können die Ultralytics Platform verwenden, um die Datensatzannotation, das Training, die Bereitstellung und die Überwachung im Produktivbetrieb für Vision-Komponenten innerhalb einer umfassenderen zusammengesetzten Anwendung zu verbinden. (nist.gov)