Compound AI Systems

Los sistemas de IA compuestos son aplicaciones de IA construidas a partir de múltiples componentes interactivos en lugar de un único modelo. Un sistema puede combinar modelos, servicios de recuperación, bases de datos, reglas deterministas, herramientas externas y revisión humana en un flujo de trabajo coordinado. En visión artificial, por ejemplo, un modelo puede detectar objetos mientras el software de seguimiento mantiene las identidades, las reglas de negocio interpretan los eventos y los servicios de monitorización observan el rendimiento en producción. La característica definitoria es la composición: el comportamiento a nivel de sistema surge de cómo las partes intercambian información y toman decisiones.

Cómo funcionan los sistemas de IA compuestos#

Un sistema compuesto divide una tarea más grande en etapas especializadas. Los componentes típicos incluyen el preprocesamiento de datos, uno o más modelos de IA, almacenamiento, lógica de validación, interfaces de programación de aplicaciones y una capa de orquestación. Los contratos claros, como los descritos por la OpenAPI Specification, definen los datos que cada servicio acepta y devuelve.

El control puede ser determinista, con código convencional que llama a componentes en una secuencia fija, o dinámico, con una capa de AI agent orchestration que selecciona herramientas y rutas en tiempo de ejecución. La AI orchestration coordina las dependencias, los reintentos, los recursos y el flujo de datos en toda la aplicación.

Los patrones comunes incluyen la retrieval-augmented generation, donde la recuperación proporciona contexto a un modelo de lenguaje, y las canalizaciones de fusión de sensores que combinan cámaras, radar u otras entradas. El cambio más amplio de los modelos aislados hacia sistemas integrados se describe en el Berkeley AI Research overview of compound AI systems. (bair.berkeley.edu)

Por qué importan los sistemas compuestos#

La composición permite a los desarrolladores mejorar una aplicación sin reentrenar un modelo descomunal. Un componente especializado se puede reemplazar, escalar u optimizar mientras el resto del flujo de trabajo permanece estable. Las reglas y las etapas de validación también pueden proporcionar un mayor control que depender enteramente de la salida probabilística de un modelo.

Estos beneficios introducen compromisos a nivel de sistema:

• Propagación de fallos: Una detección incorrecta, una recuperación fallida o una API no disponible pueden afectar a cada decisión posterior.
• Latencia y costo: Cada llamada a un modelo, solicitud de red y etapa de verificación consume una parte del presupuesto total de respuesta.
• Deriva de interfaces: Actualizar un servicio puede cambiar su formato de salida o suposiciones y romper silenciosamente otro componente.
• Evaluación difícil: Un componente sólido no garantiza un resultado sólido de extremo a extremo.

En consecuencia, las machine learning operations deben abarcar todo el flujo de trabajo. La OpenTelemetry observability guidance explica cómo los rastros, las métricas y los registros revelan lo que sucedió en los servicios distribuidos, mientras que el MLflow experiment tracking puede registrar las configuraciones de los modelos y los resultados de las evaluaciones. (opentelemetry.io)

Conceptos relacionados y diferencias clave#

Un sistema de IA compuesto no es simplemente otro nombre para un modelo complejo.

Un model ensemble combina predicciones de múltiples modelos, a menudo mediante votación, promediado o apilamiento. Un conjunto puede ser un componente dentro de un sistema compuesto, pero por lo general carece de bases de datos, herramientas, lógica de flujo de trabajo y servicios operativos.

Un flujo de trabajo agéntico permite a los modelos elegir acciones o herramientas de forma autónoma. Los sistemas compuestos son más amplios: muchos utilizan canalizaciones fijas, servicios orientados a eventos o aprobación humana sin agentes autónomos.

Del mismo modo, RAG es un patrón compuesto particular que implica recuperación y generación. La IA compuesta también puede coordinar la visión artificial, la previsión, la optimización, la robótica y el software convencional sin utilizar un modelo de lenguaje.

Aplicaciones en el mundo real#

• Manufacturing visual inspection: Una cámara captura productos, un Ultralytics YOLO26 model detecta defectos, la lógica basada en reglas comprueba la gravedad y la ubicación, y un sistema de producción rechaza o aprueba cada artículo. Los casos inciertos pueden derivarse a un inspector humano, mientras que las imágenes almacenadas sirven para un reentrenamiento posterior.

• Traffic and parking analytics: La detección identifica vehículos, el multi-object tracking mantiene las identidades entre fotogramas, la lógica geométrica determina la ocupación de carriles o zonas de estacionamiento, y los paneles agregan recuentos y alertas. Los errores pueden causar recuentos duplicados, eventos de congestión omitidos o estimaciones de disponibilidad incorrectas, por lo que cada etapa debe probarse conjuntamente.

El siguiente ejemplo simplificado muestra la percepción alimentando una lógica de decisión determinista:

from ultralytics import YOLO

# Perception component
model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Policy component
person_class = next(i for i, name in result.names.items() if name == "person")
person_count = int((result.boxes.cls == person_class).sum())
decision = "review" if person_count >= 4 else "continue"

print({"people_detected": person_count, "next_step": decision})
result.save(filename="compound_system_input.jpg")

Aquí, YOLO produce observaciones estructuradas, mientras que la lógica de políticas independiente determina la siguiente acción. Un sistema de producción podría añadir almacenamiento, notificaciones, controles de acceso o revisión humana.

Guía de diseño práctico#

Empieza con un objetivo medible de extremo a extremo, luego asigna a cada componente una responsabilidad clara. Define esquemas y tiempos de espera en cada límite, prueba los componentes de manera independiente y evalúa flujos de trabajo realistas en lugar de solo la precisión del modelo.

Usa rastros para seguir solicitudes individuales, establece presupuestos de latencia y costo, y proporciona reintentos o alternativas seguras para servicios no disponibles. Las Kubernetes health probes ilustran cómo los servicios implementados pueden exponer señales de disponibilidad y vitalidad.

Los controles de riesgo deben abordar el sistema completo, incluido el acceso a datos, las herramientas externas, las anulaciones humanas y las consecuencias posteriores. El NIST AI Risk Management Framework proporciona orientación orientada al ciclo de vida para gobernar, medir y gestionar estos riesgos. Los equipos pueden usar la Ultralytics Platform para conectar la anotación de conjuntos de datos, el entrenamiento, la implementación y la monitorización en producción de los componentes de visión dentro de una aplicación compuesta más amplia. (nist.gov)