Mixture of Agents (MoA)

Mixture of Agents (MoA) est une technique d'inférence qui fait répondre plusieurs grands modèles de langage (LLM) à la même invite, puis fait lire toutes ces réponses à un ou plusieurs modèles agrégateurs, qui rédigent une réponse unique améliorée. Junlin Wang et ses collègues de Together AI l'ont présentée dans l'article de 2024 Mixture-of-Agents Enhances Large Language Model Capabilities. Cette approche repose sur un effet que les auteurs appellent la capacité à collaborer : un LLM tend à rédiger une meilleure réponse lorsqu'il peut consulter les réponses d'autres modèles à la même question, même si ces modèles sont moins performants que lui. MoA ne nécessite ni entraînement ni ajustement fin, seulement des appels à l'API et des invites, ce qui permet de combiner des modèles de différents fournisseurs.

Fonctionnement de Mixture of Agents#

MoA organise les modèles en couches. Dans la première couche, plusieurs modèles proposant chacun une réponse répondent indépendamment à l'invite. Chaque couche suivante reçoit l'invite d'origine ainsi que toutes les réponses de la couche précédente, par l'intermédiaire d'une invite d'agrégation et de synthèse qui demande au modèle d'évaluer ces réponses avec un regard critique, en tenant compte du fait que certaines peuvent être biaisées ou incorrectes, puis de rédiger une réponse affinée. La dernière couche comprend un seul agrégateur, dont la sortie constitue la réponse du système. Les modèles remplissent différemment ces rôles : dans les expériences de l'article, WizardLM produisait d'excellentes propositions, mais agrégeait mal, tandis que GPT-4o et Qwen1.5 obtenaient de bons résultats dans les deux rôles.

La configuration principale de l'article utilisait trois couches de six modèles open source — Qwen1.5-110B-Chat, Qwen1.5-72B-Chat, WizardLM-8x22B, Llama-3-70B-Instruct, Mixtral-8x22B et DBRX-Instruct — avec Qwen1.5-110B-Chat comme agrégateur final. Elle a obtenu un taux de victoire de 65,1 % ajusté en fonction de la longueur sur le benchmark de suivi des instructions AlpacaEval 2.0, contre 57,5 % pour GPT-4o à l'époque ; une variante MoA-Lite moins coûteuse à deux couches, avec Qwen1.5-72B-Chat comme agrégateur, a obtenu 59,3 %. Les auteurs ont publié une implémentation de référence de la méthode.

Mixture of Agents et techniques connexes#

• Mixture of Experts (MoE) : une architecture au sein d'un seul réseau neuronal, où un routeur entraîné active quelques sous-couches expertes pour chaque jeton, et où tous les experts sont entraînés ensemble. MoA combine des modèles distincts et complets au moment de l'inférence, par l'intermédiaire d'invites.
• Ensembles de modèles : un ensemble calcule la moyenne des prédictions de ses membres ou procède à un vote. Un agrégateur MoA rédige un nouveau texte à partir de l'ensemble des propositions ; il peut donc combiner les parties correctes de réponses qui sont chacune partiellement erronées.
• Routage de modèles : un routeur transmet chaque requête au modèle le plus susceptible d'y répondre correctement au coût le plus bas. MoA interroge plusieurs modèles pour chaque invite.
• Débat entre IA : dans un débat multi-agent, les modèles lisent les réponses des uns et des autres et révisent les leurs au fil de plusieurs tours. MoA transmet les informations d'une couche à l'autre et termine par un agrégateur unique.
• Orchestration d'agents IA : l'orchestration coordonne des agents qui s'occupent généralement de sous-tâches différentes. MoA en est un schéma parallèle, où chaque modèle travaille sur la même invite.

Applications concrètes#

• Génération de texte : la rédaction ouverte, l'analyse et le suivi des instructions — les tâches mesurées par AlpacaEval — tirent le plus grand bénéfice de la synthèse de plusieurs brouillons.
• Programmation agentique : plusieurs modèles proposent des solutions au même problème de programmation, et un agrégateur rassemble les meilleures idées ; des tests unitaires permettent de départager les propositions contradictoires.
• Génération de données synthétiques : les équipes utilisent les sorties MoA comme cibles de haute qualité pour entraîner des modèles plus petits, en ne payant le surcoût d'inférence qu'une seule fois.

Le même principe s'étend à l'IA multimodale : plusieurs modèles vision-langage décrivent la même image, puis un agrégateur harmonise leurs descriptions. L'interface LLM d'Ultralytics appelle OpenAI et des fournisseurs compatibles avec OpenAI tels que DeepSeek, Kimi, Z.AI et OpenRouter au moyen de la même classe LLM(), de sorte qu'un même script peut envoyer une image à plusieurs modèles proposant des réponses, puis transmettre leurs réponses à un agrégateur.

Points forts et limites#

MoA échange des ressources de calcul contre une meilleure qualité. La configuration principale effectue plus d'une douzaine d'appels de modèles par invite et, comme l'agrégateur ne peut pas produire son premier jeton avant la fin de la dernière couche, l'article signale un délai important avant le premier jeton, ce qui nuit à l'utilisation interactive. La latence d'inférence et le coût limitent donc MoA aux tâches où la qualité des réponses compte davantage que la rapidité.

La combinaison de modèles différents compte aussi moins qu'il n'y paraissait, car l'ajout de modèles proposant des réponses moins performants réduit la qualité moyenne des réponses lues par l'agrégateur. L'étude Self-MoA de Wenzhe Li et ses collègues a montré que l'agrégation de plusieurs sorties échantillonnées à partir du seul meilleur modèle surpassait un mélange classique de LLM différents de 6,6 % sur AlpacaEval 2.0 et de 3,8 % en moyenne sur des benchmarks comprenant MMLU, CRUX et MATH.