AI Agent

AI 에이전트는 환경을 반복적으로 관찰하고 다음 단계를 결정해 실행한 다음, 그 결과를 바탕으로 다음 동작을 선택하여 목표를 추구하는 시스템입니다. 고전 교과서인 인공지능: 현대적 접근은 에이전트를 센서로 환경을 인지하고 액추에이터로 환경에 작용하는 모든 대상으로 정의하며, 이 정의에는 온도 조절 장치, 게임 프로그램, 로봇이 포함됩니다. 2023년 이후 이 용어는 주로 대규모 언어 모델(LLM)을 기반으로 구축된 에이전트를 의미합니다. 모델이 목표를 읽고 웹 검색, 코드 실행, 비즈니스 API와 같은 도구를 호출한 다음 각 도구가 반환한 내용을 확인하고 작업이 완료되었다고 판단할 때까지 계속 진행합니다. 전체 저장소를 수정하고 테스트하는 코딩 비서, 수십 개의 출처를 검색하고 인용하는 리서치 비서, 스크린샷과 클릭을 통해 데스크톱을 조작하는 컴퓨터 사용 에이전트는 모두 이 방식으로 작동합니다.

AI 에이전트의 작동 방식#

LLM 에이전트는 루프 안에서 실행됩니다. 모델은 목표, 현재까지의 대화 내용, 사용 가능한 도구 목록을 받은 다음 최종 답변을 작성하거나 도구 호출을 생성합니다. 에이전트 하네스라고 하는 주변 프로그램은 해당 동작이 허용되는지 확인하고 실행한 뒤, 결과를 새로운 관측값으로 모델의 컨텍스트에 추가합니다. 모델은 이 증거를 바탕으로 다음 단계를 결정합니다. ReAct 프롬프팅은 작성된 추론과 동작을 번갈아 수행하는 패턴을 정립했으며, 최신 추론 모델은 강화 학습을 통해 긴 도구 호출 연쇄에서 이 방식으로 작동하도록 학습됩니다.

대부분의 에이전트는 동일한 네 가지 구성 요소를 결합합니다. 범용 LLM 또는 비전-언어 모델인 모델은 각 단계를 결정합니다. 도구는 이름, 목적, 인수용 JSON 스키마로 설명되는 함수이며, 모델 컨텍스트 프로토콜(MCP)을 사용하면 에이전트가 다른 팀에서 제공하는 도구에 연결할 수 있습니다. 메모리는 현재 작업을 담는 컨텍스트 윈도와 에이전트가 과거 정보를 검색하는 파일, 데이터베이스 또는 벡터 데이터베이스에 걸쳐 있습니다. 에이전트 스킬은 작업에 필요한 경우에만 불러오는 재사용 가능한 지침을 패키징합니다. 계획은 목표를 단계로 나누고 완료된 단계를 추적하며 단계가 실패하면 계획을 수정합니다.

AI 에이전트와 모델 및 워크플로의 비교#

Anthropic의 효과적인 에이전트 구축 가이드에서 제시한 널리 사용되는 정의는 LLM이 자체 프로세스와 도구 사용을 직접 제어하는 시스템에만 "에이전트"라는 용어를 사용합니다.

• AI 모델: 모델은 이미지에서 탐지된 객체 목록으로 변환하는 것처럼 입력 하나를 출력 하나로 매핑합니다. 에이전트는 모델을 여러 번 호출하는 경우가 많으며, 모델의 출력으로 무엇을 할지 결정합니다.
• 에이전트 워크플로: LLM 호출과 도구가 개발자가 미리 정한 코드 경로에 따라 작동합니다. 예를 들어 추출, 분류, 요약 순서로 진행합니다. 에이전트에서는 모델이 작업에 필요한 단계 수와 각 단계에서 사용할 도구를 결정합니다.
• 챗봇: 챗봇은 메시지가 올 때마다 답변합니다. 에이전트는 메시지 사이에 동작을 수행하며 사람이 개입하지 않아도 몇 분 또는 몇 시간 동안 작업할 수 있습니다.
• 멀티 에이전트 시스템: 서로 다른 역할과 컨텍스트를 가진 여러 에이전트가 작업 분배와 결과 취합을 담당하는 오케스트레이션 계층 아래에서 하나의 작업을 수행합니다.

AI 에이전트의 유형#

Russell과 Norvig이 제시한 교과서적 분류 체계는 에이전트가 세계에 대해 추론하는 정도에 따라 에이전트를 구분합니다.

• 단순 반사 에이전트: 온도 조절 장치나 움직임 감지 조명처럼 현재 입력에 고정된 조건-동작 규칙으로 반응합니다.
• 모델 기반 반사 에이전트: 이미 관측된 사람을 추적하는 것처럼 현재 관측할 수 없는 세계의 일부를 추적하는 내부 상태를 유지합니다.
• 목표 기반 에이전트: 경로 계획기처럼 명시된 목표에 도달하는 동작 시퀀스를 검색하거나 계획합니다.
• 효용 기반 에이전트: 효용 점수에 따라 결과를 선택하고 속도, 비용, 위험 간의 절충점을 고려합니다.
• 학습 에이전트: 일반적으로 보상을 통해 경험으로부터 동작을 개선합니다.

LLM 에이전트는 텍스트로 계획을 수행하는 목표 기반 에이전트이며, 도구 사용 작업에 대해 강화 학습으로 훈련된 에이전트는 학습 에이전트이기도 합니다.

간단한 비전 에이전트 구축하기#

카메라 기반 에이전트는 탐지 모델을 통해 환경을 인지하고 코드로 동작합니다. 이 모델 기반 반사 에이전트에서 Ultralytics YOLO26 추적은 동영상 프레임 전체에서 각 사람에게 지속적으로 유지되는 ID를 부여하며, 에이전트는 이미 동작을 수행한 ID를 저장합니다. 따라서 각 사람에 대해 프레임마다 알림을 보내는 대신 한 번만 알림을 보냅니다.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
video = "https://github.com/ultralytics/assets/releases/download/v0.0.0/decelera_portrait_min.mov"
alerted = set()  # The agent's memory of people it has already acted on

for frame, result in enumerate(model.track(video, stream=True, classes=[0])):
    # Perceive: IDs of the people tracked in this frame
    ids = set(result.boxes.id.int().tolist()) if result.boxes.is_track else set()

    # Decide and act: alert once for each person not seen before
    for track_id in sorted(ids - alerted):
        print(f"Frame {frame}: person {track_id} entered, alert sent")
    alerted |= ids

출력 로그에는 새로운 사람마다 한 줄씩 기록되므로 상태가 만들어 내는 차이를 확인할 수 있습니다. 모델만 사용하면 모든 프레임에서 모든 사람을 다시 보고합니다.

실제 적용 사례#

• 에이전트형 코딩: 코딩 에이전트는 저장소를 읽고 파일을 수정한 뒤 테스트를 실행하며, 변경 사항이 테스트를 통과할 때까지 실패를 수정해 반복합니다.
• 연구 및 분석: 연구 에이전트는 여러 차례 검색을 수행하고, 출처를 읽은 뒤, 인용이 포함된 보고서를 작성합니다. 이때 질문을 여러 하위 에이전트에 나누어 맡기는 경우가 많습니다.
• 제조: 시각 검사 에이전트는 결함 탐지기를 공장 시스템과 결합하여, 결함이 한곳에 집중되면 컨베이어를 멈추고 결함을 기록한 뒤 유지보수 티켓을 생성합니다.
• 물리적 AI: 창고 및 가정용 로봇은 카메라로 주변을 인식하고, 물체를 잡거나 경로를 계획한 다음, 모터를 통해 동작을 실행하며 초당 여러 차례 루프를 반복합니다.

신뢰성 및 안전성#

긴 작업에서는 오류가 누적됩니다. 한 단계의 실수가 그 이후의 모든 단계를 망칠 수 있으므로, 팀은 에이전트 평가 벤치마크와 실제 실행 추적을 통해 에이전트를 처음부터 끝까지 측정합니다. 웹 페이지, 이메일 또는 파일을 읽는 에이전트는 에이전트의 방향을 바꾸려는 지시가 콘텐츠에 숨겨진 프롬프트 인젝션을 마주칠 수 있습니다. 따라서 하네스는 각 도구의 권한을 제한하고, 코드를 샌드박스에서 실행하며, 결제나 삭제와 같은 되돌릴 수 없는 작업을 수행하기 전에 사람에게 확인을 요청합니다. 에이전트의 역량은 빠르게 향상되고 있습니다. METR은 최첨단 에이전트가 50% 신뢰도로 완료할 수 있는 소프트웨어 작업의 길이가 2019년부터 2025년 초까지 약 7개월마다 두 배로 늘어났음을 확인했습니다.