Agent Evaluation

L’évaluation d’agents consiste à tester systématiquement la capacité d’un agent d’IA à atteindre des objectifs de manière sûre, correcte et efficace au cours d’une ou plusieurs interactions. Contrairement à l’évaluation classique d’un modèle, elle examine le système complet : le modèle sous-jacent, les instructions, la mémoire, les outils, la logique de contrôle et l’environnement. Une évaluation utile vérifie donc non seulement ce qu’un agent d’IA finit par dire ou modifier, mais aussi les actions qu’il entreprend en cours de route.

Fonctionnement de l’évaluation d’agents#

Une évaluation commence par une tâche, comme résoudre une demande d’assistance, inspecter l’image d’un produit ou mettre à jour un enregistrement de base de données. L’agent tente d’accomplir la tâche dans un environnement de test contrôlé et produit une trace ou une trajectoire : un relevé des messages, des sorties intermédiaires, des appels d’outils, des arguments, des erreurs et des changements d’état.

Un évaluateur compare ensuite la tentative aux critères de réussite définis. Il existe trois grands types d’évaluateurs : des programmes déterministes, des évaluateurs fondés sur des modèles et des évaluateurs humains. Les vérifications déterministes conviennent bien aux résultats vérifiables, comme la création effective d’un enregistrement. Les évaluateurs fondés sur des modèles peuvent évaluer des qualités telles que la pertinence ou le ton, mais doivent être calibrés à partir de jugements humains.

Une suite d’évaluation contient généralement de nombreuses tâches représentatives et peut répéter chaque tâche plusieurs fois, car le comportement d’un agent peut varier d’une exécution à l’autre. Il faut également inclure le cadre d’exécution de l’agent : modifier les descriptions des outils, les règles de mémoire ou la logique de nouvelle tentative peut changer les performances même si le modèle sous-jacent reste inchangé.

Ce que mesure l’évaluation d’agents#

Une suite fiable combine plusieurs dimensions au lieu de réduire les performances à un seul score :

• Réussite de la tâche : l’environnement a-t-il atteint l’état final requis ?
• Qualité d’utilisation des outils : l’agent a-t-il choisi le bon outil, fourni des arguments valides et interprété correctement son résultat ? Les métriques d’évaluation des agents de Google comprennent des mesures distinctes pour les réponses finales, l’utilisation des outils, les trajectoires, les hallucinations et la sécurité.
• Qualité de la trajectoire : les actions étaient-elles pertinentes, correctement ordonnées et raisonnablement efficaces ? Une réponse correcte obtenue par des étapes dangereuses ou inutiles peut tout de même constituer un échec.
• Fiabilité : à quelle fréquence l’agent réussit-il lors d’essais répétés, avec des demandes reformulées, des cas difficiles et des défaillances d’outils ?
• Sécurité et conformité aux politiques : l’agent respecte-t-il les autorisations, protège-t-il les données sensibles et demande-t-il une approbation avant les actions lourdes de conséquences ? Les recommandations de l’OWASP sur les menaces liées à l’IA agentique aident les équipes à repérer des risques tels qu’une autonomie excessive et des interactions dangereuses avec les outils.
• Performances opérationnelles : la latence, l’utilisation des jetons, le nombre d’appels d’outils, le taux d’erreur et le coût par tâche terminée comptent en production.

Un jeu de données de référence composé de tâches vérifiées, de résultats attendus et de cas limites fournit une référence stable. Il faut toutefois le compléter par des cas adversariaux et des échecs issus de la production. Le centre de ressources sur l’IA du NIST intègre les tests, l’évaluation, la vérification, la validation et la mesure continue à une gestion plus globale des risques liés à l’IA.

Évaluation d’agents et concepts connexes#

L’évaluation d’agents est plus large que l’évaluation de modèles, qui consiste généralement à tester les sorties d’un modèle sur un jeu de données fixe. Elle diffère aussi de l’observabilité : l’observabilité enregistre ce qui s’est passé dans un système en direct, tandis que l’évaluation applique des critères pour déterminer si ce comportement était acceptable.

De même, le red teaming de l’IA recherche activement les défaillances exploitables, tandis que l’évaluation habituelle mesure régulièrement les capacités connues et les régressions. Les flux de travail agentiques définissent la manière dont les tâches sont exécutées ; l’évaluation vérifie si ces flux de travail produisent des résultats fiables.

Les tests de composants restent utiles. Par exemple, si un agent utilise la vision par l’intermédiaire de l’appel de fonctions et de l’utilisation d’outils, les développeurs doivent valider séparément le modèle de vision avant d’évaluer la boucle complète de prise de décision.

from ultralytics import YOLO

# Load the agent's visual perception model
model = YOLO("yolo26n.pt")

# Evaluate it against labeled reference data
metrics = model.val(data="coco8.yaml", split="val")

# Report a useful component-level detection metric
print(f"mAP50-95: {metrics.box.map:.3f}")

Ce flux de travail documenté de validation d’Ultralytics YOLO mesure le composant de perception. Il ne permet pas de déterminer si l’agent a choisi la bonne image, correctement interprété les détections ou entrepris une action appropriée.

Applications concrètes#

• Inspection visuelle en production : un agent capture l’image d’un produit, appelle un détecteur, vérifie les règles de qualité et achemine les éléments incertains vers un examen humain. L’évaluation peut vérifier la précision de la détection des défauts, la validité des arguments transmis aux outils, le comportement d’escalade et l’ajout effectif des produits rejetés à la file d’inspection.

• Agents vocaux de service client : un agent vocal peut authentifier un appelant, récupérer des informations de compte et traiter une demande sur plusieurs tours de conversation. Les tests doivent varier les accents, les interruptions, les instructions ambiguës et les pannes d’outils, tout en mesurant l’accomplissement des tâches, la qualité de la conversation, les actions non autorisées et la latence. Le flux de travail d’évaluation des agents de Google décrit l’évaluation des traces complètes plutôt que des seules réponses finales.

Élaborer un processus d’évaluation pratique#

Commence par un petit ensemble de tâches normales, de cas limites importants et de défaillances déjà observées. Définis des conditions de réussite observables avant de lancer l’agent, puis combine des vérifications déterministes avec une évaluation fondée sur une grille et des examens humains périodiques. Relance la suite chaque fois que les invites, les modèles, les outils ou les compétences d’agent changent.

Après le déploiement, associe les tests hors ligne à l’examen d’échantillons de traces et à la surveillance des modèles. Pour les agents dotés de capacités de vision, Ultralytics Platform prend en charge l’annotation des jeux de données, l’entraînement des modèles, le déploiement et la surveillance des services de perception appelés par les agents. Une évaluation efficace est continue : les défaillances en production deviennent de nouveaux cas de test, et chaque changement du système doit démontrer une amélioration sans compromettre les comportements établis.