Обогащение промптов

Обогащение промптов — это автоматизированный процесс программного добавления релевантного контекста или информации к исходному промпту пользователя перед его отправкой в модель ИИ, особенно в большую языковую модель (LLM). Цель состоит в том, чтобы преобразовать простой или неоднозначный запрос пользователя в подробную, конкретную и контекстно-зависимую инструкцию. Этот этап предварительной обработки помогает модели ИИ лучше понимать намерения пользователя, что приводит к значительно более точным, персонализированным и полезным ответам без изменения самой модели.

Как работает обогащение промптов

Обогащение промптов действует как интеллектуальный промежуточный слой. Когда пользователь отправляет запрос, автоматизированная система перехватывает его. Затем эта система собирает контекстные данные из различных источников, таких как профили пользователей, история разговоров, данные сеанса (например, тип устройства или местоположение) или внешние базы данных. Затем она динамически вводит эту информацию в исходный промпт. Полученный «обогащенный» промпт, содержащий как запрос пользователя, так и добавленный контекст, наконец, передается в LLM для обработки. Это улучшает способность модели выполнять сложные задачи понимания естественного языка (NLU).

Применение в реальном мире

1. Персонализированная поддержка клиентов: Пользователь взаимодействует с чат-ботом электронной коммерции и печатает: "Где моя посылка?" Система обогащения подсказок может автоматически извлекать данные учетной записи пользователя и номер его последнего заказа из базы данных CRM. Подсказка, отправленная модели, становится: "Клиент с идентификатором 98765 спрашивает о статусе своего последнего заказа, №ABC-12345. Исходный запрос пользователя: 'Где моя посылка?'" Это позволяет агенту службы поддержки на основе ИИ предоставлять мгновенное, конкретное обновление вместо запроса уточняющей информации.
2. Более разумные рекомендации контента: Пользователь потокового сервиса говорит: "Порекомендуйте фильм". Это слишком расплывчато для хорошей рекомендации. Процесс обогащения может дополнить этот запрос данными, такими как история просмотров пользователя, заявленные им предпочтения по жанрам и время суток. Окончательный запрос может выглядеть так: "Пользователю недавно понравились научно-фантастические триллеры и исторические драмы. Сейчас вечер субботы. Порекомендуйте фильм, который соответствует этим критериям". Это приводит к более релевантному предложению от системы рекомендаций и улучшает пользовательский опыт за счет персонализации.

Обогащение промптов в сравнении со смежными концепциями

Важно отличать расширение промптов от схожих терминов:

• Инженерия промптов: Это широкая дисциплина разработки эффективных промптов. Обогащение промптов — это конкретный автоматизированный метод в рамках инженерии промптов, который фокусируется на добавлении динамического контекста к вводу пользователя.
• Retrieval-Augmented Generation (RAG): RAG — это мощный и специфический тип расширения промптов. Он специализируется на извлечении фактической информации из внешней базы знаний, чтобы обосновать вывод модели и предотвратить галлюцинации. Хотя RAG является формой расширения, расширение также может использовать другие источники контекста, такие как данные пользовательской сессии, которые не являются частью статической базы знаний.
• Цепочка промптов: Этот метод разбивает задачу на последовательность нескольких взаимосвязанных промптов, где выход одного промпта питает следующий. Обогащение, напротив, изменяет один промпт до его обработки. Шаг обогащения промпта может быть частью более крупной цепочки, часто в качестве начального шага. Другие методы, такие как Prompting Chain-of-Thought (CoT), фокусируются на улучшении рассуждений в рамках одного взаимодействия.
• Тюнинг промптов: Это метод обучения модели. В качестве метода тонкой настройки с эффективным использованием параметров (PEFT) он адаптирует поведение модели путем обучения небольшого набора новых параметров. Обогащение промптов — это метод времени вывода, который манипулирует входным запросом и не изменяет веса модели.

Хотя это наиболее распространено в обработке естественного языка (NLP), основная идея применима ко всему машинному обучению. В компьютерном зрении аналогичная концепция может включать добавление метаданных (например, местоположение, время) к изображению для повышения производительности модели, такой как Ultralytics YOLO11, в задаче обнаружения объектов. Платформы MLOps, такие как Ultralytics HUB, предоставляют инфраструктуру, необходимую для надежного развертывания моделей, где можно реализовать сложные входные конвейеры, использующие обогащение и фреймворки, такие как LangChain или LlamaIndex.