Prompt Chaining

프롬프트 체이닝(Prompt chaining)은 Artificial Intelligence (AI) 개발에서 복잡한 작업을 작고 관리하기 쉬운 하위 작업 시퀀스로 분해하는 고급 아키텍처 패턴입니다. 이 워크플로에서는 Large Language Model (LLM) 또는 컴퓨터 비전 시스템이 생성한 한 단계의 출력이 후속 단계의 입력으로 사용됩니다. 다면적인 문제를 한 번에 해결하려는 단일 모놀리식 프롬프트와 달리, 체이닝을 통해 개발자는 더욱 안정적이고 테스트 가능하며 성능이 뛰어난 애플리케이션을 구축할 수 있습니다. 이러한 모듈식 접근 방식은 추론, 웹 탐색 또는 물리적 환경과의 상호 작용이 가능한 정교한 AI Agents를 만드는 데 필수적입니다.

체이닝의 메커니즘#

핵심적으로 프롬프트 체이닝은 Foundation Models의 컨텍스트 창 및 추론 기능의 한계를 해결합니다. 모델이 단일 요청에서 너무 많은 개별 작업을 수행하도록 요청받을 경우(예: "이 이미지를 분석하고, 텍스트를 추출하고, 스페인어로 번역하고, JSON 인보이스로 형식화하세요"), 오류 발생 확률이 높아집니다. 이를 파이프라인으로 분할함으로써 개발자는 각 단계의 accuracy를 검증할 수 있습니다.

효과적인 체인은 단계 간 데이터 변환을 처리하기 위해 Python으로 작성되거나 LangChain과 같은 오케스트레이션 라이브러리에 의해 관리되는 "글루 코드(glue code)"를 자주 활용합니다. 이를 통해 Object Detection의 시각적 예리함과 생성형 텍스트 모델의 언어적 유창성을 결합하는 등 서로 다른 기술을 통합할 수 있습니다.

실제 애플리케이션 사례#

프롬프트 체이닝은 서로 다른 데이터 모달리티 간의 격차를 해소할 때 특히 강력하며, Multi-Modal Models이 동적인 산업 및 상업 환경에서 작동할 수 있도록 지원합니다.

1. 자동화된 시각적 보고: Smart Manufacturing에서는 품질 관리 시스템이 비전 모델과 LLM을 연결할 수 있습니다. 먼저 Ultralytics YOLO26과 같은 고속 모델이 조립 라인의 부품을 스캔합니다. 구조화된 출력(예: "Class: Dented_Can, Confidence: 0.92")이 텍스트 문자열로 변환됩니다. 이 텍스트는 "이 결함을 바탕으로 유지보수 요청 초안 작성"과 같은 프롬프트와 함께 언어 모델로 전달되어 현장 관리자를 위한 사람이 읽을 수 있는 이메일을 생성합니다.

2. 컨텍스트 인식 고객 지원: 지능형 챗봇은 복잡한 사용자 쿼리를 탐색하기 위해 종종 체이닝을 사용합니다. 체인의 첫 번째 링크는 Natural Language Processing (NLP)를 사용하여 사용자 의도를 분류할 수 있습니다. 의도가 기술적인 경우, 시스템은 Retrieval-Augmented Generation (RAG) 워크플로를 트리거합니다. 즉, 쿼리에 대한 embeddings를 생성하고, 문서화에 대한 벡터 데이터베이스를 검색하고, 최종적으로 LLM에 프롬프트를 보내 검색된 청크를 유용한 답변으로 종합합니다.

비전-언어 코드 예제#

다음 예제는 체인의 첫 번째 "링크"를 보여줍니다. 즉, Computer Vision (CV)를 사용하여 다운스트림 프롬프트의 컨텍스트 역할을 하는 구조화된 데이터를 생성하는 것입니다.

from ultralytics import YOLO

# Load the YOLO26 model (natively end-to-end and highly efficient)
model = YOLO("yolo26n.pt")

# Step 1: Run inference to 'see' the environment
results = model("https://ultralytics.com/images/bus.jpg")

# Step 2: Format visual detections into a natural language string
det_names = [model.names[int(c)] for c in results[0].boxes.cls]
prompt_context = f"The scene contains: {', '.join(det_names)}. Please describe the likely activity."

# The 'prompt_context' variable is now ready to be sent to an LLM API
print(prompt_context)

관련 개념 구분#

효과적인 Machine Learning (ML) 아키텍처를 구현하려면 AI 분야의 유사한 용어와 프롬프트 체이닝을 구분하는 것이 도움이 됩니다.

• Chain-of-Thought Prompting과 비교: 사고의 연쇄(CoT)는 모델이 "작업 과정을 보여주도록" 장려하기 위해 단일 프롬프트 내부에서 사용되는 기술입니다(예: "단계별로 생각하세요"). 프롬프트 체이닝은 단계 B의 입력이 단계 A의 출력에 따라 달라지는 여러 개의 고유한 API 호출을 포함합니다.
• Prompt Engineering과 비교: 프롬프트 엔지니어링은 더 나은 모델 성능을 유도하기 위해 텍스트 입력을 최적화하는 광범위한 분야입니다. 체이닝은 작업의 순차적 흐름과 로직 제어에 초점을 맞춘 특정 엔지니어링 패턴입니다.
• Prompt Tuning과 비교: 프롬프트 튜닝은 학습 단계 동안 학습 가능한 매개변수(소프트 프롬프트)를 업데이트하는 Model Optimization 방법입니다. 프롬프트 체이닝은 전적으로 Real-time Inference 동안 발생하며 모델의 Model Weights를 변경하지 않습니다.

프롬프트 체이닝을 활용하여 팀은 로직, 데이터 검색 및 Action Recognition을 통합하는 강력한 애플리케이션을 구축할 수 있습니다. 이러한 체인에 전력을 공급하는 비전 모델을 학습하고 데이터셋을 관리하기 위해 Ultralytics Platform은 주석, 학습 및 배포를 위한 중앙 집중식 솔루션을 제공합니다.