Agentic RAG

에이전트형 RAG는 AI 에이전트, 즉 반복적으로 계획을 세우고 도구를 호출하는 대규모 언어 모델(LLM)이 검색 여부, 검색할 출처, 결과가 답변에 충분한지를 결정하는 검색 증강 생성(RAG)입니다. 표준 RAG는 질문 임베딩, 상위 구절 가져오기, 생성으로 이어지는 고정된 단계를 한 번 수행합니다. 에이전트는 질문을 하위 질문으로 나누고, 한 질문은 문서 인덱스에, 다른 질문은 SQL 데이터베이스나 웹 검색에 전달하고, 결과가 주제와 맞지 않는 것을 감지해 질의를 다시 작성한 뒤 재검색할 수 있습니다. 2025년 에이전트형 RAG 조사는 이러한 동작을 성찰, 계획, 도구 사용, 다중 에이전트 협업의 네 가지 에이전트 설계 패턴으로 분류합니다.

에이전트형 RAG 작동 방식#

모델은 함수 호출을 통해 검색 도구에 접근합니다. 문서에 대한 벡터 검색, 데이터베이스 쿼리, 웹 검색 등의 각 도구는 이름과 매개변수 스키마로 설명되며, 모델은 도구를 사용하려 할 때마다 구조화된 호출을 출력합니다. 모델 컨텍스트 프로토콜(MCP)은 에이전트가 이러한 도구에 연결하는 표준 방식을 제공합니다. 제어 루프는 추론 단계와 작업을 번갈아 수행하는 ReAct 패턴을 따릅니다:

"지난 분기보다 이번 분기에 배송 지연이 더 많았던 공급업체는 어디이며, 해당 업체의 계약에는 어떤 위약금이 명시되어 있나요?"라는 질문은 이 루프가 중요한 이유를 보여 줍니다. 단일 검색 단계에서는 전체 질문을 임베딩하고 일반적인 배송 지연을 언급하는 계약 구절을 반환합니다. 에이전트는 먼저 공급업체별 배송 건수를 배송 데이터베이스에서 조회한 다음, 건수가 증가한 각 공급업체에 대해 계약 인덱스를 검색하고 두 출처의 정보를 답변에 결합합니다.

도구는 텍스트에만 국한되지 않습니다. 답변이 현재 카메라에 보이는 내용에 따라 달라질 때 에이전트는 Ultralytics YOLO26 모델을 도구로 호출할 수 있습니다. 최신 프레임에 대한 예측은 감지된 모든 객체를 반환하며, results[0].summary()는 감지 결과를 클래스명, 신뢰도, 박스 좌표가 포함된 딕셔너리 목록으로 변환합니다. 에이전트는 이를 다른 검색 결과와 마찬가지로 읽습니다.

에이전트형 RAG와 관련 접근법 비교#

• 표준 RAG: 고정된 파이프라인을 통해 질문당 한 번 검색하며, 지연 시간과 비용이 낮고 예측 가능합니다. 한두 개의 구절로 답할 수 있는 질문에 적합합니다.
• Self-RAG 및 Corrective RAG: Self-RAG(2023)는 검색 시점을 결정하고 자체 출력을 평가하는 성찰 토큰을 출력하도록 모델을 학습합니다. Corrective RAG(2024)는 검색된 문서의 점수가 낮을 때 웹 검색을 시작하는 검색 평가기를 추가합니다. 두 방법 모두 고정된 파이프라인 내부에 에이전트 동작 한 가지를 적용합니다.
• GraphRAG: 문서로 구축한 지식 그래프에서 개체, 관계, 커뮤니티 요약을 검색합니다. 에이전트는 그래프 쿼리를 도구 중 하나로 호출할 수 있습니다.
• 에이전트형 워크플로: 다단계 LLM 시스템의 더 넓은 범주이며, 에이전트형 RAG는 그중 정보 검색에 초점을 둔 방식입니다.
• 심층 조사 에이전트: 하나의 질문을 위해 여러 번 검색을 수행하는 에이전트형 RAG로, 흔히 여러 에이전트가 작업을 나누어 진행합니다. Anthropic의 다중 에이전트 연구 시스템에서는 Claude Opus 4 리드 에이전트가 하위 작업을 병렬 Claude Sonnet 4 하위 에이전트에 할당하며, 이 시스템은 Anthropic의 내부 연구 평가에서 단일 Opus 4 에이전트보다 90.2% 높은 성능을 보였습니다.

실제 적용 사례#

• 엔터프라이즈 연구 어시스턴트: 내부 매출 수치를 경쟁사의 공개 결과와 비교하는 것처럼 데이터 웨어하우스, 문서 저장소, 웹에 걸친 질문에 답합니다.
• 고객 지원: 에이전트는 한 시스템에서 주문 상태를 확인하고, 다른 시스템에서 반품 정책을 검색한 다음, 환불 대상인지 판단하여 답변합니다.
• 제조 문제 해결: 어시스턴트는 고장 보고서에 명시된 기계의 유지보수 기록과 매뉴얼 페이지를 가져오고, 매뉴얼에 오류 코드가 설명되어 있지 않으면 과거 사고 티켓을 검색합니다.
• 에이전트형 코딩: 코딩 에이전트는 저장소를 검색하고 찾은 파일을 읽은 다음, 그 과정에서 발견한 이름을 사용해 다시 검색한 후 코드를 수정합니다.

비용 및 실패 유형#

추가 단계마다 LLM 호출이 발생하므로 에이전트형 RAG는 단일 단계 방식보다 느리고 비용이 많이 듭니다. Anthropic의 다중 에이전트 연구 시스템 분석에 따르면 에이전트는 일반적으로 채팅 상호작용보다 약 4배 많은 토큰을 사용하며, 다중 에이전트 시스템은 약 15배 많은 토큰을 사용합니다. 에이전트는 고정 파이프라인에서는 발생하지 않는 방식으로 실패할 수도 있습니다. 비슷한 질의를 반복하거나, 핵심 문서를 찾기 전에 멈추거나, 잘못된 도구를 호출하거나, 초기 실수를 후속 모든 단계에 전파하여 확신에 찬 환각으로 이어질 수 있습니다. 프로덕션 시스템은 단계 수를 제한하고 전체 추적을 기록하며, 전체 실행 경로를 에이전트 평가로 채점합니다. Anthropic의 분석에서는 토큰 사용량만으로 BrowseComp 브라우징 벤치마크 성능 분산의 80%를 설명했습니다.