Retrieval Augmented Generation (RAG)

Retrieval-Augmented Generation (RAG) — это продвинутая AI-платформа, разработанная для повышения качества, точности и релевантности ответов, генерируемых большими языковыми моделями (LLM). Она работает путем подключения генеративной модели к внешней, актуальной базе знаний. Это позволяет модели "извлекать" релевантную информацию перед генерацией ответа, эффективно обосновывая свой вывод проверяемыми фактами и снижая вероятность галлюцинаций или устаревших ответов. RAG делает LLM более надежными для задач, требующих интенсивных знаний, предоставляя им доступ к специализированной или проприетарной информации, на которой они не были обучены.

Как работает Retrieval-Augmented Generation

Процесс RAG можно разбить на два основных этапа: извлечение и генерация. Этот двухэтапный подход сочетает в себе сильные стороны систем извлечения информации и генеративных моделей.

1. Извлечение: Когда пользователь предоставляет запрос или задает вопрос, система RAG сначала использует этот запрос для поиска релевантной информации в источнике знаний. Обычно этим источником является векторная база данных, содержащая эмбеддинги документов, статей или других данных. Компонент извлечения определяет и извлекает наиболее релевантные фрагменты текста или данных на основе запроса пользователя. Дополнительным, но эффективным шагом является использование механизма переранжирования для уточнения этих извлеченных результатов, гарантируя, что передается только наиболее контекстуально важная информация.
2. Дополненная генерация: Извлеченная информация затем объединяется с исходным запросом пользователя. Этот новый, обогащенный запрос передается в генеративную модель ИИ (LLM). Модель использует этот добавленный контекст для формулирования всестороннего, точного и релевантного ответа. Такие фреймворки, как LangChain и LlamaIndex, обычно используются для построения и управления этими сложными конвейерами RAG.

Приложения и примеры

RAG особенно полезен в сценариях, требующих фактической точности и доступа к динамическим или специализированным данным.

• Продвинутые системы ответов на вопросы: Чат-бот поддержки клиентов может использовать RAG для доступа ко всей базе знаний компании, содержащей руководства по продуктам, руководства по устранению неполадок и документы политики. Когда клиент спрашивает: «Какова гарантийная политика для моего продукта?», система извлекает последний гарантийный документ и использует его для предоставления точного, актуального ответа, что является значительным улучшением по сравнению с общими ответами.
• Создание контента и исследования: Финансовый аналитик может использовать инструмент на базе RAG для написания обзора рынка. Инструмент может извлекать последние финансовые отчеты, новости рынка и данные об эффективности акций из надежных источников, таких как Bloomberg или Reuters. Затем LLM синтезирует эту информацию в связный отчет с цитатами, что значительно ускоряет процесс исследования.

RAG в сравнении со смежными концепциями

Полезно отличать RAG от других методов, используемых для повышения производительности LLM:

• Тонкая настройка: Тонкая настройка адаптирует предварительно обученную модель, продолжая обучение на меньшем, специализированном наборе данных, что изменяет внутренние веса модели. В отличие от RAG, она не обращается к внешним данным во время инференса. Тонкая настройка идеально подходит для обучения модели новому стилю или навыку, а RAG лучше подходит для включения фактических знаний. Эти подходы также могут быть взаимодополняющими.
• Prompt Engineering: Это ручной процесс тщательной разработки промптов для получения желаемого результата от LLM. RAG автоматизирует часть этого процесса, программно добавляя («расширяя») промпт полученными данными, а не полагаясь на человека, который вручную предоставляет весь контекст.
• Обогащение промптов (Prompt Enrichment): Будучи похожим на RAG, обогащение промптов является более широким термином. Это может включать добавление контекста из истории пользователя или хода разговора. RAG — это особый тип обогащения, ориентированный на извлечение фактической информации из внешней базы знаний для обоснования ответа модели.

RAG в компьютерном зрении

Хотя RAG в основном используется в обработке естественного языка (NLP), его основная концепция изучается для задач компьютерного зрения (CV). Например, система может извлекать соответствующую визуальную информацию для управления генерацией или анализом изображений. Это может включать поиск похожих изображений из большого набора данных для повышения производительности модели обнаружения объектов, такой как Ultralytics YOLO. Управление этими сложными моделями и наборами данных упрощается с помощью таких платформ, как Ultralytics HUB, которая может служить основой для будущих приложений мультимодальных моделей, использующих RAG. Вы можете изучить соответствующую реализацию в нашем блоге об улучшении ИИ с помощью RAG и компьютерного зрения.