GraphRAG

GraphRAG (генерация с дополнением извлечением по графу) — разновидность генерации с дополнением извлечением (RAG), которая извлекает данные из графа знаний вместо текстовых фрагментов, найденных с помощью векторного поиска, или наряду с ними. Сначала большая языковая модель (LLM) извлекает из коллекции документов сущности — например людей, компании, детали и места — и связи между ними. При получении вопроса система извлекает связанные сущности, цепочки отношений или сводки целых кластеров графа и передает их LLM в качестве контекста. Название прежде всего связано с подходом GraphRAG к созданию сводок с учетом запроса, опубликованным Microsoft Research в 2024 году вместе с реализацией с открытым исходным кодом; этот термин также используют для любых систем RAG, извлекающих данные из графа.

Зачем векторному RAG нужен граф#

Стандартный RAG преобразует фрагменты документов в векторные представления, сохраняет их в векторной базе данных и извлекает несколько фрагментов, наиболее похожих на вопрос. Такой подход работает для вопросов, на которые отвечает один фрагмент, но плохо справляется еще с двумя типами вопросов:

• Вопросы с несколькими переходами: Ответ зависит от фактов из разных документов, связанных только общими сущностями; например, нужно выяснить, какие заводы зависят от поставщика рядом с портом, закрытым штормом. Ни один отдельный фрагмент не похож на вопрос целиком.
• Глобальные вопросы: Для вопросов обо всем корпусе, например «Каковы основные темы в этих 5 000 отчетах об инцидентах?», нужна информация из каждого документа, тогда как векторный поиск возвращает лишь несколько лучших фрагментов.

Граф явно хранит связи между фактами, поэтому при извлечении данных по ним можно переходить, а сводки сообществ графа охватывают весь корпус.

Как работает GraphRAG#

GraphRAG от Microsoft строит индекс в четыре этапа. Сначала он разбивает документы на текстовые единицы и просит LLM извлечь из каждой сущности, отношения и утверждения — это разновидность распознавания именованных сущностей и извлечения отношений с помощью LLM. Затем он объединяет описания сущностей, которые встречаются во многих единицах, чтобы создать для каждой сущности один узел. После этого запускается иерархическое обнаружение сообществ методом Leiden, группирующее тесно связанные сущности во вложенные сообщества, а LLM составляет отчет-сводку для каждого сообщества на каждом уровне.

Затем запросы обрабатываются одним из двух способов:

• Локальный поиск: Начинает с сущностей, указанных в вопросе, и собирает их соседей, отношения, отчеты о сообществах и исходные текстовые единицы, где эти сущности упоминаются.
• Глобальный поиск: Работает по принципу map-reduce с отчетами о сообществах: каждый отчет формирует промежуточный ответ с оценкой релевантности, после чего наиболее релевантные промежуточные ответы объединяются в итоговый.

На наборах данных объемом около миллиона токенов в статье сообщалось, что глобальный поиск давал значительно более полные и разнообразные ответы на вопросы обо всем корпусе, чем базовый вариант обычного RAG.

Основа локального поиска — обход графа. В этом примере на Python с использованием NetworkX сохраняются триплеты, которые LLM могла бы извлечь из отдельных документов, и выполняется обход связей от сущности из вопроса:

import networkx as nx

# Entity-relationship triples that an LLM extracted from separate documents
triples = [
    ("Typhoon", "closed", "Kaohsiung port"),
    ("Kaohsiung port", "ships parts for", "Supplier A"),
    ("Supplier A", "makes", "bearing B-17"),
    ("bearing B-17", "is used at", "Ohio plant"),
    ("Texas plant", "uses", "motor M-4"),
]
graph = nx.DiGraph()
for head, relation, tail in triples:
    graph.add_edge(head, tail, relation=relation)

# Question: "Which plants could the typhoon disrupt?"
# Local search: follow relationships outward from the entity named in the question
edges = nx.bfs_edges(graph, "Typhoon")
context = [f"{head} {graph[head][tail]['relation']} {tail}" for head, tail in edges]
print("\n".join(context))

Выводится цепочка из четырех переходов от «Тайфун закрыл порт Гаосюн» до «подшипник B-17 используется на заводе в Огайо» — связи, о которой не говорится ни в одном отдельном исходном документе. Завод в Техасе, не связанный с вопросом, не попадает в результат. LLM получает эти строки как контекст для обоснования ответа и может ответить, что завод в Огайо находится под угрозой.

GraphRAG и связанные подходы#

• Графы знаний: структура данных, состоящая из сущностей и типизированных связей. GraphRAG строит такую графовую структуру или использует уже существующую, чтобы извлекать контекст для LLM.
• Гибридный поиск: объединяет поиск по ключевым словам и векторный поиск по фрагментам текста. Многие промышленные системы GraphRAG используют обход графа наряду с гибридным поиском.
• Агентный RAG: агент решает, что и когда извлекать, выполняя несколько шагов. Запросы к графу могут быть одним из инструментов агента.
• Графовые нейронные сети (GNNs): обучаются на структуре графа для решения таких задач, как предсказание связей. GraphRAG использует граф во время извлечения данных, не прибегая к обучению.

Примеры применения в реальных условиях#

• Поиск лекарств: графы, связывающие гены, белки, соединения и заболевания, позволяют исследователям задавать вопросы, охватывающие тысячи статей, например какие одобренные препараты воздействуют на белки в сигнальном пути заболевания.
• Финансовые расследования: аналитики прослеживают цепочки владения через подставные компании и общих директоров и просят LLM обобщить сеть, стоящую за подозрительной транзакцией.
• Риски цепочки поставок: связи между поставщиками, деталями, объектами и маршрутами доставки помогают выяснить, какие продукты зависят от единственного завода.
• Корпоративные знания: большие коллекции отчётов, заявок и заметок с совещаний становятся доступными для тематического поиска, а сводки по сообществам помогают отвечать на вопросы обо всей коллекции.

Графы также могут хранить то, что видят камеры, — это основа для мультимодального RAG по видео. Сопоставление сущностей — определение того, что два упоминания относятся к одному и тому же объекту, — это то, что делает отслеживание объектов в видео: трекинг Ultralytics YOLO26 присваивает каждому человеку или транспортному средству постоянный ID в последовательности кадров, поэтому граф видео может хранить отдельный узел для каждого отслеживаемого объекта и рёбра, показывающие, где и когда он появлялся рядом с другими объектами, вместо отдельного узла для каждого кадра.

Затраты и компромиссы#

Индексация — основная статья расходов: LLM читает каждую единицу текста, чтобы извлечь сущности, а затем создаёт отчёты по каждому сообществу, поэтому индексация больших корпусов обходится гораздо дороже, чем создание эмбеддингов. Ошибки извлечения, например объединение двух разных людей с одинаковыми именами, распространяются на каждый ответ, в котором они фигурируют; при изменении документов приходится повторно извлекать данные и пересоставлять сводки для затронутых частей графа. LazyGraphRAG от Microsoft снижает затраты: он строит концептуальный граф с помощью извлечения именных групп и статистики графа, откладывая любое использование LLM до момента запроса. Благодаря этому индексация обходится столько же, сколько для векторного RAG, и составляет 0,1% от затрат на полный GraphRAG.