Compound AI Systems

Compound-KI-Systeme sind KI-Anwendungen, die aus mehreren interagierenden Komponenten statt aus einem einzigen Modell aufgebaut sind. Ein System kann Modelle, Abrufdienste (Retrieval Services), Datenbanken, deterministische Regeln, externe Tools und menschliche Überprüfung in einem koordinierten Workflow kombinieren. In der Computer Vision kann beispielsweise ein Modell Objekte erkennen, während Tracking-Software Identitäten beibehält, Geschäftsregeln Ereignisse interpretieren und Überwachungsdienste die Produktionsleistung beobachten. Das entscheidende Merkmal ist die Komposition: Das verhalten auf Systemebene entsteht daraus, wie die Teile Informationen austauschen und Entscheidungen treffen.

Wie Compound-KI-Systeme funktionieren#

Ein Compound-System unterteilt eine größere Aufgabe in spezialisierte Phasen. Typische Komponenten umfassen Datenvorverarbeitung, ein oder mehrere KI-Modelle, Speicher, Validierungslogik, Programmierschnittstellen und eine Orchestrierungsschicht. Klare Verträge, wie sie in der OpenAPI Specification beschrieben sind, definieren die Daten, die jeder Dienst akzeptiert und zurückgibt.

Die Steuerung kann deterministisch erfolgen, indem konventioneller Code Komponenten in einer festen Reihenfolge aufruft, oder dynamisch, wobei eine Schicht zur AI agent orchestration Tools und Routen zur Laufzeit auswählt. AI orchestration koordiniert Abhängigkeiten, Wiederholungsversuche (Retries), Ressourcen und den Datenfluss über die gesamte Anwendung hinweg.

Häufige Muster sind retrieval-augmented generation, bei der der Abruf Kontext für ein Sprachmodell liefert, sowie Sensor-Fusions-Pipelines, die Kameras, Radar oder andere Eingaben kombinieren. Der umfassendere Wandel von isolierten Modellen zu integrierten Systemen wird in der Berkeley AI Research overview of compound AI systems beschrieben. (bair.berkeley.edu)

Warum Compound-Systeme wichtig sind#

Komposition ermöglicht es Entwicklern, eine Anwendung zu verbessern, ohne ein riesiges Modell neu trainieren zu müssen. Eine spezialisierte Komponente kann ersetzt, skaliert oder optimiert werden, während der Rest des Workflows stabil bleibt. Regeln und Validierungsphasen können zudem mehr Kontrolle bieten als die vollständige Abhängigkeit von probabilistischen Modellausgaben.

Diese Vorteile bringen Kompromisse auf Systemebene mit sich:

• Fehlerfortpflanzung (Failure propagation): Eine falsche Erkennung, ein fehlgeschlagener Abruf oder eine nicht verfügbare API können jede nachfolgende Entscheidung beeinflussen.
• Latenz und Kosten: Jeder Modellaufruf, jede Netzwerkanfrage und jede Verifizierungsphase verbraucht einen Teil des gesamten Antworterbudgets.
• Schnittstellendrift (Interface drift): Das Aktualisieren eines Dienstes kann dessen Ausgabeformat oder Annahmen verändern und im Hintergrund eine andere Komponente beschädigen.
• Schwierige Evaluierung: Eine starke Komponente garantiert kein starkes End-to-End-Ergebnis.

Folglich müssen machine learning operations den gesamten Workflow abdecken. Die OpenTelemetry observability guidance erklärt, wie Traces, Metriken und Protokolle (Logs) zeigen, was über verteilte Dienste hinweg passiert ist, während MLflow experiment tracking Modellkonfigurationen und Evaluierungsergebnisse aufzeichnen kann. (opentelemetry.io)

Verwandte Konzepte und Hauptunterschiede#

Ein Compound-KI-System ist nicht einfach nur ein anderer Name für ein komplexes Modell.

Ein model ensemble kombiniert Vorhersagen aus mehreren Modellen, häufig durch Mehrheitsentscheidung (Voting), Mittelwertbildung oder Stacking. Ein Ensemble kann eine Komponente innerhalb eines Compound-Systems sein, verfügt jedoch in der Regel weder über Datenbanken noch über Tools, Workflow-Logik und operative Dienste.

Ein agentenbasierter Workflow ermöglicht es Modellen, Aktionen oder Tools autonom auszuwählen. Compound-Systeme sind breiter gefächert: Viele verwenden feste Pipelines, ereignisgesteuerte Dienste oder menschliche Genehmigungen ohne autonome Agenten.

Ähnlich ist RAG ein bestimmtes Compound-Muster, das Retrieval und Generation beinhaltet. Compound-KI kann zudem Computer Vision, Vorhersage, Optimierung, Robotik und konventionelle Software koordinieren, ohne ein Sprachmodell zu verwenden.

Praxisanwendungen#

• Manufacturing visual inspection: Eine Kamera nimmt Produkte auf, ein Ultralytics YOLO26 model erkennt Defekte, regelbasierte Logik prüft Schweregrad und Standort, und ein Produktionssystem lehnt jeden Artikel ab oder genehmigt ihn. Unsichere Fälle können an einen menschlichen Prüfer weitergeleitet werden, während gespeicherte Bilder das spätere Neutrainieren unterstützen.

• Traffic and parking analytics: Die Erkennung identifiziert Fahrzeuge, multi-object tracking hält Identitäten über Frames hinweg aufrecht, geometrische Logik bestimmt die Belegung von Fahrspuren oder Parkbereichen, und Dashboards aggregieren Zählungen und Warnungen. Fehler können zu doppelten Zählungen, verpassten Stauereignissen oder falschen Verfügbarkeitsschätzungen führen, weshalb jede Phase gemeinsam getestet werden muss.

Das folgende vereinfachte Beispiel zeigt Wahrnehmung, die deterministische Entscheidungslogik speist:

from ultralytics import YOLO

# Perception component
model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Policy component
person_class = next(i for i, name in result.names.items() if name == "person")
person_count = int((result.boxes.cls == person_class).sum())
decision = "review" if person_count >= 4 else "continue"

print({"people_detected": person_count, "next_step": decision})
result.save(filename="compound_system_input.jpg")

Hier erzeugt YOLO strukturierte Beobachtungen, während eine separate Regellogik (Policy Logic) die nächste Aktion bestimmt. Ein Produktionssystem könnte Speicher, Benachrichtigungen, Zugriffskontrollen oder menschliche Überprüfungen hinzufügen.

Praktische Design-Richtlinien#

Beginne mit einem messbaren End-to-End-Ziel und weise dann jeder Komponente eine klare Verantwortung zu. Definiere Schemata und Timeouts an jeder Grenze, teste Komponenten unabhängig voneinander und evaluiere realistische Workflows statt nur die Modellgenauigkeit.

Verwende Traces, um einzelne Anfragen zu verfolgen, lege Latenz- und Kostenbudgets fest und stelle Wiederholungsversuche oder sichere Fallbacks für nicht verfügbare Dienste bereit. Kubernetes health probes veranschaulichen, wie bereitgestellte Dienste Bereitschafts- und Lebendigkeitssignale (Readiness- und Liveness-Signale) offenlegen können.

Risikokontrollen sollten das gesamte System abdecken, einschließlich Datenzugriff, externer Tools, manueller Übersteuerungen (Overrides) und nachgelagerter Konsequenzen. Das NIST AI Risk Management Framework bietet lebenszyklusorientierte Leitlinien für die Steuerung, Messung und Verwaltung dieser Risiken. Teams können die Ultralytics Platform nutzen, um Datensatzannotation, Training, Bereitstellung (Deployment) und Produktionsüberwachung für Vision-Komponenten innerhalb einer breiteren Compound-Anwendung zu verknüpfen. (nist.gov)