프롬프트 체이닝

프롬프트 체이닝은 복잡한 작업을 더 작고 상호 연결된 일련의 프롬프트로 분해하여 인공 지능(AI) 모델을 관리하는 데 사용되는 강력한 기술입니다. 다단계 문제를 해결하기 위해 단일하고 방대한 프롬프트에 의존하는 대신, 하나의 프롬프트에서 나온 결과가 다음 프롬프트의 입력이 되는 체인을 만듭니다. 이러한 모듈식 접근 방식은 특히 대규모 언어 모델(LLM)의 신뢰성, 투명성 및 전반적인 성능을 향상시킵니다. 또한 논리, 외부 도구, 심지어 여러 개의 서로 다른 AI 모델을 포함할 수 있는 정교한 워크플로우를 구축할 수 있습니다.

프롬프트 체이닝 작동 방식

핵심적으로 프롬프트 체이닝은 하나 이상의 AI 모델에 대한 일련의 호출을 오케스트레이션합니다. 이 프로세스는 논리적 흐름을 따릅니다. 초기 프롬프트가 모델로 전송되고, 응답이 처리되며, 해당 응답의 주요 정보가 추출되어 시퀀스의 다음 프롬프트를 구성하는 데 사용됩니다. 이 주기는 최종 목표가 달성될 때까지 계속됩니다. 이 방법론은 추론하고 행동할 수 있는 AI 에이전트를 구축하는 데 필수적입니다.

이 접근 방식을 통해 작업 분할이 가능하며, 체인의 각 단계는 특정 하위 작업에 최적화됩니다. 예를 들어, 하나의 프롬프트는 정보 추출을 위해, 다음 프롬프트는 데이터 요약을 위해, 마지막 프롬프트는 창의적인 텍스트 생성을 위해 설계될 수 있습니다. LangChain과 같은 프레임워크는 상태, 프롬프트 및 외부 도구 통합을 관리하여 이러한 체인 개발을 간소화하도록 특별히 설계되었습니다.

실제 애플리케이션

프롬프트 체이닝은 다재다능하며 머신 러닝(ML) 및 워크플로우 자동화 분야에서 다양한 실제 응용 분야를 가지고 있습니다.

1. 자동화된 고객 지원 에이전트: 사용자가 복잡한 지원 티켓을 제출합니다.

   • 프롬프트 1 (분류): LLM은 사용자의 메시지를 분석하여 문제(예: "청구", "기술", "계정 액세스")를 분류합니다.
   • 프롬프트 2 (데이터 검색): "기술" 분류를 기반으로 시스템은 검색 증강 생성(RAG) 단계를 실행합니다. 새로운 프롬프트는 AI에 기술 지식 베이스에서 관련 문서를 검색하도록 요청합니다.
   • 프롬프트 3 (답변 생성): 검색된 문서는 LLM에 정보를 종합하고 사용자에게 명확하고 단계별 솔루션을 생성하도록 지시하는 최종 프롬프트에 제공됩니다. RAG 시스템의 메커니즘에 대해 자세히 알아보십시오.

2. 다중 모달 콘텐츠 제작: 마케터가 신제품에 대한 소셜 미디어 캠페인을 만들려고 합니다.

   • 프롬프트 1 (텍스트 생성): 마케터는 제품 세부 정보를 제공하고 프롬프트는 LLM에 5개의 눈길을 끄는 마케팅 슬로건을 생성하도록 요청합니다.
   • 프롬프트 2 (이미지 생성): 선택한 슬로건은 Stable Diffusion과 같은 텍스트-이미지 모델을 대상으로 하는 새로운 프롬프트의 시드로 사용되어 해당 시각적 자료를 만듭니다.
   • 프롬프트 3 (Vision 분석): 맞춤형으로 훈련된 Ultralytics YOLO 모델과 같은 컴퓨터 비전 모델을 후속 단계에서 사용하여 생성된 이미지가 브랜드 지침을 준수하는지 확인할 수 있습니다(예: 올바른 로고가 있는지 확인). 이러한 모델은 Ultralytics HUB와 같은 플랫폼을 통해 관리하고 배포할 수 있습니다.

프롬프트 체이닝 vs. 관련 개념

프롬프트 체이닝과 유사한 기술을 구별하는 것이 유용합니다.

• 프롬프트 엔지니어링(Prompt Engineering): 이는 효과적인 프롬프트를 설계하는 광범위한 방법입니다. 프롬프트 체이닝은 순차적으로 여러 프롬프트를 구성하는 데 중점을 둔 프롬프트 엔지니어링 내의 하나의 특정 기술입니다.

• Chain-of-Thought(CoT) 프롬프트: CoT는 LLM이 "단계별로 생각하도록" 요청하여 단일 프롬프트 내에서 추론을 개선하는 것을 목표로 합니다. 대조적으로 프롬프트 체이닝은 작업을 여러 개의 개별적인 프롬프트 단계로 나누며, 여기에는 각 단계에서 다른 모델이나 도구가 포함될 수 있습니다.

• 검색 증강 생성(RAG): RAG는 AI가 응답을 생성하기 전에 외부 소스에서 정보를 검색하는 기술입니다. RAG는 종종 더 큰 프롬프트 체인 내의 특정 단계 중 하나로 사용되며 체이닝 메커니즘 자체로는 사용되지 않습니다.

• 프롬프트 강화(Prompt Enrichment): 이는 AI에 보내기 전에 사용자의 초기 프롬프트에 컨텍스트를 자동으로 추가하는 것을 포함합니다. 이는 여러 상호 연결된 프롬프트의 순차적 처리를 오케스트레이션하는 대신 단일 프롬프트를 향상시킵니다.

• 프롬프트 튜닝(Prompt Tuning): 모델 훈련 중에 "소프트 프롬프트"(임베딩)를 학습하는 파라미터 효율적인 미세 조정(PEFT) 방법입니다. 이는 프롬프트 체이닝의 런타임 실행 구조와 구별되는 모델 사용자 정의 기술입니다.

프롬프트 체이닝은 고급 LLM과 같은 AI 모델과의 상호 작용을 구조화하고 이미지 분류 또는 인스턴스 분할에 사용되는 AI 시스템을 포함하여 다른 AI 시스템과 통합하는 강력한 방법입니다. 이를 통해 복잡한 작업을 보다 관리하기 쉽게 만들고 기본적인 데이터 분석에서 정교한 다중 모드 AI 시스템에 이르기까지 다양한 머신 러닝 애플리케이션에서 결과의 안정성을 향상시킵니다. 이러한 체인의 구성 요소를 형성할 수 있는 특수 모델의 배포는 엔드 투 엔드 플랫폼에 의해 용이해집니다. 이러한 고급 워크플로에 통합할 수 있는 다양한 컴퓨터 비전 작업을 탐색할 수 있습니다.