Prompt Chaining

프롬프트 체이닝은 인공지능(AI) 개발에서 복잡한 작업을 더 작고 관리 가능한 하위 작업의 순서로 분해하는 고급 아키텍처 패턴입니다. 이 워크플로에서는 한 단계의 출력이—대개 대규모 언어 모델(LLM) 또는 컴퓨터 비전 시스템에서 생성된—다음 단계의 입력으로 사용됩니다. 다면적인 문제를 한 번에 해결하려는 단일 모놀리식 프롬프트와 달리, 체이닝을 사용하면 개발자가 더 안정적이고 테스트 가능하며 뛰어난 애플리케이션을 구축할 수 있습니다. 이러한 모듈식 접근 방식은 추론하고, 웹을 탐색하거나, 물리적 환경과 상호작용할 수 있는 정교한 AI 에이전트를 만드는 데 필수적입니다.

체이닝의 작동 원리#

프롬프트 체이닝은 기본적으로 파운데이션 모델의 컨텍스트 윈도우와 추론 능력의 한계를 해결합니다. 모델에 하나의 요청으로 너무 많은 개별 작업을 수행하도록 요청하면(예: "이 이미지를 분석하고, 텍스트를 추출한 다음, 스페인어로 번역하고, JSON 인보이스 형식으로 지정하세요"), 오류가 발생할 가능성이 커집니다. 이를 파이프라인으로 분할하면 개발자가 각 단계의 정확도를 검증할 수 있습니다.

효과적인 체인은 단계 간 데이터 변환을 처리하기 위해 Python으로 작성한 "글루 코드"를 사용하거나 LangChain과 같은 오케스트레이션 라이브러리로 관리하는 경우가 많습니다. 이를 통해 객체 탐지의 시각적 식별 능력과 생성형 텍스트 모델의 언어적 유창성을 결합하는 등 서로 다른 기술을 통합할 수 있습니다.

실제 적용 사례#

프롬프트 체이닝은 서로 다른 데이터 모달리티 간의 격차를 연결할 때 특히 강력하며, 멀티모달 모델이 역동적인 산업 및 상업 환경에서 작동할 수 있도록 합니다.

1. 자동화된 시각 보고: 스마트 제조에서 품질 관리 시스템은 비전 모델을 LLM과 연결할 수 있습니다. 먼저 Ultralytics YOLO26과 같은 고속 모델이 조립 라인의 부품을 스캔합니다. 구조화된 출력(예: "Class: Dented_Can, Confidence: 0.92")은 텍스트 문자열로 변환됩니다. 그런 다음 이 텍스트가 "이 결함을 기반으로 유지보수 요청을 작성하세요"와 같은 프롬프트와 함께 언어 모델에 전달되어 현장 관리자에게 보낼 사람이 읽을 수 있는 이메일을 생성합니다.

2. 컨텍스트 인식 고객 지원: 지능형 챗봇은 복잡한 사용자 질의를 탐색하기 위해 체이닝을 사용하는 경우가 많습니다. 체인의 첫 번째 연결 단계에서는 자연어 처리(NLP)를 사용하여 사용자의 의도를 분류할 수 있습니다. 의도가 기술적인 경우 시스템은 검색 증강 생성(RAG) 워크플로를 트리거합니다. 즉, 질의에 대한 임베딩을 생성하고, 벡터 데이터베이스에서 문서를 검색한 다음, LLM에 검색된 청크를 종합하여 유용한 답변을 생성하도록 프롬프트를 전달합니다.

비전-언어 코드 예제#

다음 예제는 체인의 첫 번째 "연결"을 보여 줍니다. 즉, 컴퓨터 비전(CV)을 사용하여 다운스트림 프롬프트의 컨텍스트로 사용되는 구조화된 데이터를 생성합니다.

from ultralytics import YOLO

# Load the YOLO26 model (natively end-to-end and highly efficient)
model = YOLO("yolo26n.pt")

# Step 1: Run inference to 'see' the environment
results = model("https://ultralytics.com/images/bus.jpg")

# Step 2: Format visual detections into a natural language string
det_names = [model.names[int(c)] for c in results[0].boxes.cls]
prompt_context = f"The scene contains: {', '.join(det_names)}. Please describe the likely activity."

# The 'prompt_context' variable is now ready to be sent to an LLM API
print(prompt_context)

관련 개념 구분하기#

효과적인 머신 러닝(ML) 아키텍처를 구현하려면 AI 분야에서 사용되는 유사한 용어와 프롬프트 체이닝을 구분하는 것이 도움이 됩니다.

• 사고 연쇄 프롬프팅(Chain-of-Thought Prompting)과 비교: 사고 연쇄(CoT)는 모델이 "작업 과정을 보이도록" 유도하기 위해 단일 프롬프트 내부에서 사용하는 기법입니다(예: "단계별로 생각하세요"). 프롬프트 체이닝은 여러 개의 서로 다른 API 호출을 사용하며, B 단계의 입력이 A 단계의 출력에 따라 달라집니다.
• 프롬프트 엔지니어링과 비교: 프롬프트 엔지니어링은 더 나은 모델 성능을 이끌어 내기 위해 텍스트 입력을 최적화하는 보다 광범위한 분야입니다. 체이닝은 작업과 논리 제어의 순차적 흐름에 중점을 두는 특정 엔지니어링 패턴입니다.
• 프롬프트 튜닝과 비교: 프롬프트 튜닝은 학습 단계에서 학습 가능한 파라미터(소프트 프롬프트)를 업데이트하는 모델 최적화 방법입니다. 프롬프트 체이닝은 전적으로 실시간 추론 중에 수행되며 모델의 모델 가중치를 변경하지 않습니다.

프롬프트 체이닝을 활용하면 팀은 로직, 데이터 검색 및 행동 인식을 통합하는 견고한 애플리케이션을 구축할 수 있습니다. 이러한 체인을 구동하는 비전 모델의 데이터셋 관리와 학습을 위해 Ultralytics Platform은 어노테이션, 학습 및 배포를 위한 중앙 집중식 솔루션을 제공합니다.