Mixture of Agents (MoA)

Mixture of Agents (MoA) é uma técnica aplicada durante a inferência em que vários modelos de linguagem de grande porte (LLMs) respondem ao mesmo prompt e um ou mais modelos agregadores leem todas essas respostas e redigem uma única resposta melhorada. Junlin Wang e colegas da Together AI apresentaram-na no artigo de 2024 Mixture-of-Agents Enhances Large Language Model Capabilities. A técnica baseia-se num efeito a que os autores chamam colaboratividade: um LLM tende a escrever uma resposta melhor quando pode ver as respostas de outros modelos à mesma pergunta, mesmo que esses modelos sejam menos capazes do que ele. O MoA não precisa de treino nem de ajuste fino, apenas de chamadas à API e de prompts, pelo que pode combinar modelos de diferentes fornecedores.

Como funciona o Mixture of Agents#

O MoA organiza os modelos em camadas. Na primeira camada, vários modelos proponentes respondem ao prompt de forma independente. Cada camada seguinte recebe o prompt original juntamente com todas as respostas da camada anterior, através de um prompt de agregação e síntese que pede ao modelo que avalie criticamente essas respostas, reconhecendo que algumas podem ser tendenciosas ou incorretas, e escreva uma resposta refinada. A camada final contém um único agregador, cuja saída é a resposta do sistema. Os modelos diferem nestas funções: nas experiências do artigo, o WizardLM produziu excelentes propostas, mas agregou mal; já o GPT-4o e o Qwen1.5 tiveram bons resultados em ambas as funções.

A configuração principal do artigo usou três camadas de seis modelos de código aberto: Qwen1.5-110B-Chat, Qwen1.5-72B-Chat, WizardLM-8x22B, Llama-3-70B-Instruct, Mixtral-8x22B e DBRX-Instruct, com o Qwen1.5-110B-Chat como agregador final. Atingiu uma taxa de vitórias de 65,1%, controlada pelo comprimento, no AlpacaEval 2.0, um benchmark de seguimento de instruções, acima dos 57,5% do GPT-4o na altura; uma variante MoA-Lite de duas camadas, mais barata, com o Qwen1.5-72B-Chat como agregador, obteve 59,3%. Os autores disponibilizaram uma implementação de referência do método.

Mixture of Agents vs. técnicas relacionadas#

• Mixture of Experts (MoE): Uma arquitetura dentro de uma única rede neural, em que um encaminhador treinado ativa algumas subcamadas especializadas para cada token e todos os especialistas são treinados em conjunto. O MoA combina modelos completos e separados durante a inferência, através de prompts.
• Conjuntos de modelos: Um conjunto calcula a média das previsões dos seus membros ou vota nelas. Um agregador MoA gera novo texto condicionado por todas as respostas candidatas, pelo que pode combinar as partes corretas de respostas que estão parcialmente erradas.
• Encaminhamento de modelos: Um encaminhador envia cada consulta ao modelo com maior probabilidade de responder bem ao menor custo. O MoA consulta vários modelos para cada prompt.
• Debate de IA: Num debate multiagente, os modelos leem as respostas uns dos outros e revêm as suas ao longo de várias rondas. O MoA encaminha informações pelas camadas e termina com um único agregador.
• Orquestração de agentes de IA: A orquestração coordena agentes que normalmente tratam de subtarefas diferentes. O MoA é um padrão concorrente dentro desta abordagem, em que todos os modelos trabalham no mesmo prompt.

Aplicações no mundo real#

• Geração de texto: A escrita aberta, a análise e o seguimento de instruções — as tarefas avaliadas pelo AlpacaEval — beneficiam mais da síntese de vários rascunhos.
• Programação agêntica: Vários modelos propõem soluções para o mesmo problema de programação, e um agregador combina as ideias mais fortes, usando testes unitários para decidir entre propostas contraditórias.
• Geração de dados sintéticos: As equipas usam as saídas do MoA como alvos de alta qualidade para treinar modelos mais pequenos, pagando o custo adicional de inferência apenas uma vez.

O mesmo padrão estende-se à IA multimodal, em que vários modelos de visão e linguagem descrevem a mesma imagem e um agregador concilia as descrições. A interface LLM da Ultralytics chama fornecedores OpenAI e compatíveis com OpenAI, como DeepSeek, Kimi, Z.AI e OpenRouter, através da mesma classe LLM(), pelo que um único script pode enviar uma imagem a vários modelos proponentes e passar as respostas a um agregador.

Pontos fortes e limitações#

O MoA troca capacidade computacional por qualidade. A configuração principal faz mais de uma dúzia de chamadas a modelos por prompt e, como o agregador não pode gerar o primeiro token antes de a última camada terminar, o artigo refere um tempo elevado até ao primeiro token, o que prejudica a utilização interativa. A latência de inferência e o custo limitam, por isso, o MoA a tarefas em que a qualidade das respostas é mais importante do que a velocidade.

A combinação de modelos diferentes também tem menos importância do que parecia inicialmente, porque adicionar proponentes mais fracos reduz a qualidade média do conteúdo que o agregador lê. O estudo Self-MoA, de Wenzhe Li e colegas, concluiu que agregar várias saídas amostradas apenas do melhor modelo superou uma mistura padrão de LLMs diferentes em 6,6% no AlpacaEval 2.0 e em 3,8% na média de benchmarks que incluem MMLU, CRUX e MATH.