Mixture of Agents (MoA)

Mixture of Agents (MoA) es una técnica de inferencia en la que varios modelos de lenguaje grandes (LLM) responden a la misma indicación, y uno o más modelos agregadores leen todas las respuestas y redactan una única respuesta mejorada. Junlin Wang y sus colegas de Together AI la presentaron en el artículo de 2024 Mixture-of-Agents Enhances Large Language Model Capabilities. Se basa en un efecto que los autores denominan capacidad de colaboración: un LLM tiende a redactar una respuesta mejor cuando puede ver las respuestas de otros modelos a la misma pregunta, incluso si esos modelos son más débiles que él. MoA no requiere entrenamiento ni ajuste fino, solo llamadas a la API e indicaciones, por lo que puede combinar modelos de distintos proveedores.

Cómo funciona Mixture of Agents#

MoA organiza los modelos en capas. En la primera capa, varios modelos proponentes responden a la indicación de forma independiente. Cada capa posterior recibe la indicación original junto con todas las respuestas de la capa anterior, mediante una indicación de agregación y síntesis que pide al modelo evaluar críticamente esas respuestas, teniendo en cuenta que algunas pueden ser parciales o incorrectas, y redactar una respuesta refinada. La capa final contiene un único agregador cuya salida es la respuesta del sistema. Los modelos desempeñan estos papeles de forma distinta: en los experimentos del artículo, WizardLM generó propuestas excelentes, pero agregó mal, mientras que GPT-4o y Qwen1.5 rindieron bien en ambos papeles.

La configuración principal del artículo utilizó tres capas de seis modelos de código abierto —Qwen1.5-110B-Chat, Qwen1.5-72B-Chat, WizardLM-8x22B, Llama-3-70B-Instruct, Mixtral-8x22B y DBRX-Instruct—, con Qwen1.5-110B-Chat como agregador final. Logró una tasa de victorias del 65,1 % ajustada por longitud en el benchmark de seguimiento de instrucciones AlpacaEval 2.0, por encima del 57,5 % de GPT-4o en aquel momento; una variante MoA-Lite más barata, de dos capas y con Qwen1.5-72B-Chat como agregador, obtuvo un 59,3 %. Los autores publicaron una implementación de referencia del método.

Mixture of Agents frente a técnicas relacionadas#

• Mezcla de expertos (MoE): Arquitectura dentro de una única red neuronal, en la que un enrutador aprendido activa unas pocas subcapas expertas para cada token y todos los expertos se entrenan juntos. MoA combina modelos completos e independientes durante la inferencia mediante indicaciones.
• Ensamblajes de modelos: Un ensamblaje promedia las predicciones de sus componentes o decide por votación. Un agregador de MoA genera texto nuevo condicionado por todas las opciones, por lo que puede combinar las partes correctas de respuestas que, por separado, son parcialmente erróneas.
• Enrutamiento de modelos: Un enrutador envía cada consulta al modelo con más probabilidades de responderla bien al menor coste. MoA consulta varios modelos para cada indicación.
• Debate entre IA: En un debate multiagente, los modelos leen las respuestas de los demás y revisan las propias durante varias rondas. MoA transmite información hacia delante a través de capas y termina con un agregador.
• Orquestación de agentes de IA: La orquestación coordina agentes que suelen encargarse de distintas subtareas. MoA es un patrón concurrente dentro de ella, en el que todos los modelos trabajan sobre la misma indicación.

Aplicaciones en el mundo real#

• Generación de texto: La redacción abierta, el análisis y el seguimiento de instrucciones —las tareas que mide AlpacaEval— son las que más se benefician de sintetizar varios borradores.
• Programación agéntica: Varios modelos proponen soluciones al mismo problema de programación y un agregador combina las mejores ideas; las pruebas unitarias permiten decidir entre propuestas incompatibles.
• Generación de datos sintéticos: Los equipos utilizan las salidas de MoA como objetivos de alta calidad para entrenar modelos más pequeños; el coste de inferencia adicional se paga una sola vez.

El mismo patrón se extiende a la IA multimodal, donde varios modelos de visión y lenguaje describen la misma imagen y un agregador concilia sus descripciones. La interfaz LLM de Ultralytics llama a OpenAI y a proveedores compatibles con OpenAI, como DeepSeek, Kimi, Z.AI y OpenRouter, a través de la misma clase LLM(), por lo que un único script puede enviar una imagen a varios modelos proponentes y pasar sus respuestas a un agregador.

Ventajas y limitaciones#

MoA sacrifica capacidad de cálculo a cambio de calidad. La configuración principal realiza más de una docena de llamadas a modelos por cada indicación y, como el agregador no puede generar su primer token hasta que termina la última capa, el artículo señala que el tiempo hasta el primer token es elevado, lo que perjudica el uso interactivo. La latencia de inferencia y el coste limitan, por tanto, MoA a tareas en las que la calidad de la respuesta importa más que la velocidad.

Combinar modelos distintos también resulta menos útil de lo que parecía al principio, porque añadir proponentes más débiles reduce la calidad media de lo que lee el agregador. El estudio Self-MoA de Wenzhe Li y sus colegas concluyó que agregar varias salidas muestreadas del único mejor modelo superaba a una mezcla estándar de distintos LLM en un 6,6 % en AlpacaEval 2.0 y en un 3,8 % de media en benchmarks como MMLU, CRUX y MATH.