Обогащение с помощью подсказок

Обогащение запроса - это автоматизированный процесс программного добавления релевантного контекста или информации к первоначальному запросу пользователя перед его отправкой в модель искусственного интеллекта, особенно в большую языковую модель (LLM). Цель состоит в том, чтобы превратить простой или неоднозначный запрос пользователя в подробную, конкретную и учитывающую контекст инструкцию. Эта предварительная обработка помогает модели ИИ лучше понять намерения пользователя, что приводит к значительно более точным, персонализированным и полезным ответам без внесения изменений в саму модель.

Как работает обогащение с помощью подсказок

Обогащение запроса выступает в качестве интеллектуального промежуточного слоя. Когда пользователь отправляет запрос, автоматизированная система перехватывает его. Затем эта система собирает контекстные данные из различных источников, таких как профили пользователей, история разговоров, данные о сеансе (например, тип устройства или местоположение) или внешние базы данных. Затем она динамически вводит эту информацию в исходную подсказку. Полученная в результате "обогащенная" подсказка, содержащая запрос пользователя и добавленный контекст, передается в LLM для обработки. Это повышает способность модели выполнять сложные задачи понимания естественного языка (NLU).

Применение в реальном мире

1. Персонализированная поддержка клиентов: Пользователь взаимодействует с чат-ботом электронной коммерции и задает вопрос: "Где моя посылка?". Система обогащения подсказок может автоматически получить данные учетной записи пользователя и номер его последнего заказа из базы данных CRM. Запрос, отправленный модели, становится таким: "Клиент ID 98765 спрашивает о статусе своего последнего заказа #ABC-12345". Первоначальный запрос пользователя: "Где моя посылка?". Это позволяет агенту по обслуживанию клиентов, управляемому искусственным интеллектом, мгновенно предоставить конкретную информацию вместо того, чтобы запрашивать уточняющую информацию.
2. Более разумная рекомендация контента: Пользователь потокового сервиса говорит: "Порекомендуйте фильм". Для хорошей рекомендации это слишком расплывчато. Процесс обогащения может дополнить эту рекомендацию такими данными, как история просмотров пользователя, его заявленные жанровые предпочтения и время суток. Итоговая подсказка может выглядеть следующим образом: "В последнее время пользователю нравились научно-фантастические триллеры и исторические драмы. Сегодня субботний вечер. Порекомендуйте фильм, подходящий под эти критерии". Это приведет к более релевантному предложению от рекомендательной системы и улучшит пользовательский опыт за счет персонализации.

Обогащение подсказок в сравнении со смежными понятиями

Важно отличать быстрое обогащение от похожих терминов:

• Prompt Engineering: Это обширная дисциплина, связанная с разработкой эффективных подсказок. Обогащение подсказок - это специальная автоматизированная техника в рамках проектирования подсказок, которая направлена на добавление динамического контекста к вводимым пользователем данным.
• Поколение с дополненным извлечением (RAG): RAG - это мощный и специфический тип обогащения подсказок. Он специализируется на извлечении фактической информации из внешней базы знаний для обоснования вывода модели и предотвращения галлюцинаций. Хотя RAG - это одна из форм обогащения, при обогащении могут использоваться и другие источники контекста, например данные о пользовательских сессиях, которые не являются частью статической базы знаний.
• Цепочка подсказок: Эта техника разбивает задачу на последовательность нескольких взаимосвязанных подсказок, где выход одной подсказки служит основой для следующей. Обогащение, напротив, изменяет одну подсказку перед ее обработкой. Шаг обогащения подсказки может быть частью более крупной цепочки, часто в качестве начального шага. Другие техники, такие как цепочка подсказок (Chain-of-Thought (CoT) Prompting ), направлены на улучшение рассуждений в рамках одного взаимодействия.
• Оперативный тюнинг: Это метод обучения модели. Как метод эффективной тонкой настройки параметров (PEFT), он адаптирует поведение модели путем обучения небольшого набора новых параметров. Prompt enrichment - это техника, используемая во время вывода, которая манипулирует входным запросом и не изменяет весовые коэффициенты модели.

Хотя эта идея наиболее распространена в обработке естественного языка (NLP), она применима во всех областях машинного обучения. В компьютерном зрении аналогичная концепция может включать добавление метаданных (например, местоположение, время) к изображению для повышения производительности модели, такой как Ultralytics YOLO11, в задаче обнаружения объектов. Платформы MLOps, такие как Ultralytics HUB, предоставляют инфраструктуру, необходимую для надежного развертывания моделей, где могут быть реализованы сложные конвейеры ввода данных с использованием обогащения и таких фреймворков, как LangChain или LlamaIndex.