Agentic RAG

Agentic Retrieval-Augmented Generation (Agentic RAG) is an advanced artificial intelligence (AI) architecture that enhances traditional retrieval systems by integrating autonomous AI agents. While standard RAG pipelines operate in a linear "retrieve-and-generate" sequence, Agentic RAG empowers a Large Language Model (LLM) to act as an intelligent orchestrator. This agent can independently analyze a user's prompt, determine if external information is needed, formulate multiple search queries, evaluate the retrieved data, and iteratively refine its research until it compiles a comprehensive and accurate answer. By leveraging function calling and tool use capabilities, these systems dynamically route queries across various databases, APIs, and analytical tools, significantly reducing hallucinations in LLMs when dealing with complex, multi-step problems.

Agentic RAG 시스템 작동 원리#

Agentic RAG의 핵심 혁신은 루프 및 추론 기능에 있습니다. 주요 에이전틱 AI 프레임워크는 이 프로세스를 동적이고 자율적인 워크플로로 구성합니다:

• 쿼리 계획 및 라우팅: 에이전트는 복잡한 질문을 더 작고 관리하기 쉬운 하위 작업으로 분해하고 각 작업을 가장 적절한 도구 또는 벡터 데이터베이스로 라우팅합니다.
• 반복적 검색: 정적 검색과 달리 에이전트는 가져온 문서를 검토합니다. 컨텍스트가 불충분한 경우 검색 전략을 재조정하고 다시 쿼리합니다.
• 도구 통합: 에이전트는 코드를 작성 및 실행하고, 수학 연산을 수행하거나, 머신 러닝(ML) 모델을 트리거하여 즉석에서 새로운 데이터를 합성할 수 있습니다.

Agentic RAG와 표준 RAG 비교#

강력한 생성 파이프라인을 구현하려면 Agentic RAG를 그 기반 개념과 구별하는 것이 중요합니다:

• 표준 검색 증강 생성(RAG): 단일 패스로 작동합니다. 의미론적 유사성을 기반으로 문서를 가져와 응답을 생성합니다. 여러 단계에 걸쳐 이질적인 데이터 소스를 합성해야 하는 복잡한 로직에서는 어려움을 겪습니다.
• Agentic RAG: 의사결정 및 루프 기능을 도입합니다. 에이전트는 검색 품질을 평가하고 생성을 완료하기 전에 후속 검색 또는 다른 도구를 트리거할 수 있습니다.
• 멀티모달 RAG: 다양한 데이터 유형(이미지, 텍스트, 비디오) 검색에 중점을 둡니다. Agentic RAG는 멀티모달 RAG 파이프라인을 제어하여 시각적 데이터베이스와 텍스트 문서 중 언제 검색할지 결정할 수 있습니다.

실제 애플리케이션 사례#

Agentic RAG는 인간의 분석적 추론을 모방하는 심층 연구 및 복잡한 문제 해결 작업을 자동화함으로써 산업을 변화시키고 있습니다.

• 기업 지식 합성: 기업 환경에서 에이전트는 "3분기 실적을 요약하고 주요 경쟁사의 최신 실적과 비교해 주세요"라는 프롬프트를 받을 수 있습니다. 에이전트는 내부 재무 데이터베이스를 자율적으로 쿼리하고, 경쟁사 제출 서류에 대해 실시간 웹 검색을 수행하고, 계산기 도구를 사용하여 수치를 분석한 후 포괄적인 브리프를 작성합니다.
• 자율 품질 검사: 제조 분야에서 에이전트는 조립 실패의 근본 원인을 파악하는 임무를 수행할 수 있습니다. 컴퓨터 비전(CV) 모델을 트리거하여 라이브 카메라 피드를 검사하고, 과거 유지보수 로그를 쿼리하며, 시각적 및 텍스트 증거를 기반으로 진단 보고서를 합성할 수 있습니다.

비전 AI를 Agentic 워크플로우에 통합하기#

비전 모델은 물리 세계와 상호 작용하는 Agentic RAG 시스템을 위한 강력한 감각 도구 역할을 합니다. 예를 들어, 에이전트는 Ultralytics YOLO26을 사용하여 이미지 또는 비디오 스트림에서 시각적 컨텍스트를 동적으로 검색하여 사용자 질문에 답할 수 있습니다. 개발자는 Ultralytics Platform을 사용하여 이러한 맞춤형 비전 도구의 데이터 주석 및 교육을 관리할 수 있습니다.

다음 Python 예제는 AI 에이전트가 프로그래밍 방식으로 Ultralytics YOLO26을 호출하여 이미지에서 구조화된 관측값을 추출하고 다음 추론 단계를 위한 사실적 컨텍스트를 수집하는 방법을 보여줍니다.

from ultralytics import YOLO

# Initialize YOLO26 for the agent's visual retrieval tool
model = YOLO("yolo26n.pt")

# The agent invokes the model on an image to gather visual facts
results = model("https://ultralytics.com/images/bus.jpg")

# The agent parses the detected objects to formulate its next query or action
visual_context = [model.names[int(c)] for c in results[0].boxes.cls]
print(f"Agent Observation: I currently see {', '.join(visual_context)}.")

고성능 비전 모델을 추론 엔진에 연결함으로써 Agentic RAG는 정적 지식 검색과 동적이고 현실적인 공간 지능 사이의 간극을 메워줍니다. 자율 시스템의 진화하는 환경에 대한 더 깊은 통찰력을 위해 Stanford AI Index Report는 에이전틱 기능에 대한 포괄적인 추적을 제공합니다.