AI Agent Orchestration

Оркестрация ИИ-агентов — это уровень координации системы, состоящей из нескольких ИИ-агентов, моделей и инструментов. Она определяет, какой компонент обрабатывает каждую часть задачи, какой контекст получает каждый компонент, в каком порядке они работают, как передают задачи друг другу, а также как объединяются и проверяются результаты. Оркестратором может быть обычный код с фиксированным порядком выполнения, LLM, которая планирует и делегирует задачи во время работы, или сочетание обоих подходов. Оркестрация объединяет специалистов — например, агента поиска, агента для написания кода и модель компьютерного зрения — в систему, способную выполнять задачи, с которыми не справится один вызов большой языковой модели (LLM).

Задачи уровня оркестрации#

• Маршрутизация: Направляет каждую подзадачу агенту или модели, наиболее подходящим для её выполнения. Для простых шагов часто выбирают небольшую быструю модель, а для сложных — передовую модель.
• Управление контекстом: Предоставляет каждому агенту только необходимые инструкции, файлы и предыдущие результаты. Субагенты, работающие в отдельных контекстных окнах, могут тщательно исследовать задачу и возвращать краткое резюме, не перегружая контекст ведущего агента.
• Структурированная передача задач: Передаёт результаты между агентами в виде проверенных данных, например JSON с фиксированной схемой, чтобы следующий шаг мог полагаться на заданный формат.
• Обработка ошибок: Повторяет неудачные шаги, устанавливает ограничения по времени и бюджету, а перед важными действиями приостанавливает работу для получения одобрения человека.
• Наблюдаемость: Записывает трассировку каждого вызова, результата инструмента и решения, чтобы можно было находить ошибки и воспроизводить их.

Распространённые шаблоны оркестрации#

Большинство систем сочетают несколько типовых шаблонов оркестрации:

• Последовательные конвейеры: Каждый агент обрабатывает результат предыдущего агента в заданном порядке, например черновик, проверка, затем перевод.
• Параллельное распределение задач: Несколько агентов параллельно работают с одним входным набором данных, а агрегатор объединяет их результаты или выбирает наиболее популярный вариант.
• Оркестратор и исполнители: Ведущий агент во время работы делит задачу на подзадачи, делегирует их агентам-исполнителям и объединяет полученные результаты. Этот иерархический шаблон подходит для открытых задач, шаги которых нельзя заранее перечислить.
• Передача управления: агент передаёт весь диалог более подходящему специалисту, например агент по первичной оценке передаёт вопрос о выставлении счёта агенту по вопросам оплаты.
• Групповой чат и обсуждение: агенты по очереди участвуют в общей ветке, критикуют и развивают идеи друг друга под руководством модератора.
• Оценка и оптимизация: один агент выдаёт результат, а другой оценивает его по заданным критериям; цикл повторяется, пока результат не пройдёт проверку.

Такие фреймворки, как LangGraph, OpenAI Agents SDK, Google Agent Development Kit и Microsoft Agent Framework, пришедший на смену AutoGen и Semantic Kernel, реализуют эти шаблоны в виде графов агентов и инструментов с общим состоянием. Два открытых протокола связывают компоненты: протокол контекста модели (MCP) соединяет агентов с инструментами и данными, а протокол Agent2Agent (A2A) позволяет агентам от разных поставщиков делегировать задачи друг другу.

Оркестрация и смежные понятия#

• Агентные рабочие процессы: рабочий процесс — это одна заранее определённая последовательность вызовов LLM и инструментов. Оркестрация — более широкое понятие: координация множества агентов и рабочих процессов, которой может управлять код или LLM, планирующая действия во время выполнения.
• Смесь агентов (MoA): конкретный параллельный шаблон, в котором несколько моделей отвечают на один и тот же запрос, а модель-агрегатор формирует единый улучшенный ответ. При общей оркестрации разные агенты обычно получают разные подзадачи.
• Составные системы ИИ: общий термин для систем, объединяющих модели, механизмы поиска и инструменты. Оркестрация — это логика управления внутри такой системы.
• Kubernetes и оркестрация контейнеров: планируют запуск контейнеров и масштабируют их на нескольких машинах. Оркестрация агентов координирует этапы рассуждений и вызовы инструментов, а агентные платформы часто работают поверх оркестраторов контейнеров.

Оркестрация моделей компьютерного зрения#

В системах компьютерного зрения применяются те же шаблоны, где модели выступают в роли исполнителей: быстрый детектор объектов обрабатывает каждое изображение и решает, каким изображениям нужен более медленный специализированный обработчик. Агенты платформы Ultralytics позволяют визуально собирать такие рабочие процессы, соединяя блок YOLO26 с блоками Gate, которые проверяют число обнаружений или диапазоны уверенности, а затем — с блоками моделей «зрение — язык», наборов данных, Slack и вебхуков. Так, в рабочем процессе «YOLO → мониторинг VLM» VLM описывает сцену только тогда, когда YOLO обнаруживает человека. В Python та же маршрутизация отправляет изображение обработчику оценки позы только при обнаружении людей детектором:

from ultralytics import YOLO

# Worker models: a general detector and a pose specialist
detector = YOLO("yolo26n.pt")
pose_worker = YOLO("yolo26n-pose.pt")
image = "https://ultralytics.com/images/bus.jpg"

# Orchestrator step 1: run the detector and read its findings
detections = detector(image)[0]
people = int((detections.boxes.cls == 0).sum())

# Orchestrator step 2: route to the pose worker only when people are present
if people:
    poses = pose_worker(image)[0]
    print(f"{people} people detected, {len(poses.keypoints)} poses estimated")
else:
    print("No people detected, pose worker skipped")

Результат детектора определяет, будет ли вообще запущена вторая модель. Благодаря этому в конвейерах с условным запуском ресурсоёмкие модели не обрабатывают изображения, которым они не нужны.

Примеры применения в реальных условиях#

• Производство: когда датчик подаёт сигнал тревоги, оркестратор отправляет кадры с камеры агенту для поиска дефектов и поручает агенту на базе LLM изучить журналы технического обслуживания, а затем объединяет оба результата в заявку на ремонт.
• Обработка документов: отсканированные страницы поступают обработчикам обнаружения объектов и OCR, которые извлекают таблицы и поля; модель рассуждений сверяет извлечённые значения с правилами, а страницы с низкой уверенностью передаются человеку на проверку.
• Агентное программирование: агент-программист запускает субагентов для поиска по кодовой базе, выполнения тестов и проверки diff, оставляя собственный контекст свободным для основной задачи.
• Обслуживание клиентов: агент первичной оценки определяет суть запроса и передаёт его агенту по вопросам оплаты, технической поддержки или возврата товаров, у которого есть нужные инструменты и разрешения.

Затраты и типичные сбои#

Оркестрация расширяет возможности, но требует токенов и усложняет систему. В мультиагентной исследовательской системе Anthropic ведущий агент Claude Opus 4, координирующий субагентов Claude Sonnet 4, показал результат на 90,2% лучше, чем один агент Claude Opus 4, при внутренней оценке исследовательских задач. При этом мультиагентные запуски использовали примерно в 15 раз больше токенов, чем обычные диалоги, поэтому такой подход особенно эффективен для масштабных задач, которые можно разделить на параллельные части. Координация также создаёт новые возможности для сбоев: агенты могут неверно истолковать инструкции, скрывать информацию друг от друга или завершить работу до проверки результата. В исследовании причин сбоев мультиагентных систем на базе LLM более 1600 размеченных трасс из семи фреймворков распределили по 14 типам сбоев, сгруппированным по проблемам проектирования системы, рассогласованию между агентами и проверке задач.