Chain-of-Thought Prompting

생각의 사슬(CoT) 프롬프팅은 대규모 언어 모델(LLM)이 중간 논리적 단계로 나누어 복잡한 추론 작업을 해결할 수 있도록 지원하는 프롬프트 엔지니어링의 고급 기법입니다. 모델에 즉각적인 최종 답변을 요구하는 대신, CoT는 인간의 문제 해결 과정을 모방하는 "생각의 흐름"을 생성하도록 시스템을 유도합니다. 이러한 단계별 추론은 산술, 기호 논리 및 상식적 추론이 포함된 작업의 성능을 크게 향상시키며, 우리가 인공지능(AI) 시스템과 상호작용하는 방식을 변화시킵니다.

추론 메커니즘#

표준 언어 모델은 입력을 단일 패스로 출력에 직접 매핑하려고 시도하기 때문에 다단계 문제 해결에 어려움을 겪는 경우가 많습니다. 이러한 "블랙박스" 방식은 특히 논리적 비약이 너무 클 때 오류를 유발할 수 있습니다. Chain-of-Thought prompting은 질문 입력과 최종 출력 사이에 추론 단계를 삽입함으로써 이를 해결합니다.

이 프로세스는 일반적으로 다음 두 가지 방식으로 작동합니다:

• Zero-Shot CoT: 사용자는 "단계별로 생각해 봅시다(Let's think step by step)"와 같은 간단한 트리거 문구를 프롬프트에 추가합니다. 이는 특정 예시 없이도 모델의 잠재적인 추론 능력을 활성화합니다.
• 퓨샷 CoT: 프롬프트에는 단계별 솔루션과 쌍을 이룬 몇 가지 질문 예시(엑설러)가 포함됩니다. 이는 퓨샷 학습을 활용하여 새로운 문제를 시도하기 전에 모델이 자신의 논리를 구조화하는 방법을 정확하게 보여줍니다.

중간 추론을 명시적으로 생성함으로써 모델은 스스로 수정할 수 있는 기회를 더 많이 갖게 되며 결론에 도달한 과정에 대한 투명성을 제공합니다. 이는 모델이 그렇지 않으면 잘못된 사실을 자신 있게 주장할 수 있는 LLM의 환각 현상을 줄이는 데 매우 중요합니다.

실제 애플리케이션 사례#

초기에는 텍스트 기반 논리를 위해 개발되었지만, Chain-of-Thought prompting은 컴퓨터 비전 및 코드 생성과 같은 다른 AI 도메인과 결합될 때 강력한 활용 가치를 지닙니다.

컴퓨터 비전을 위한 코드 생성 강화#

개발자는 객체 감지와 같은 작업을 위해 복잡한 소프트웨어 스크립트를 작성할 때 LLM을 안내하기 위해 CoT를 사용합니다. "자동차를 찾는 코드를 작성해 줘"와 같은 모호한 요청 대신, CoT 프롬프트는 "첫째, 필요한 라이브러리를 임포트합니다. 둘째, 사전 학습된 모델을 로드합니다. 셋째, 이미지 소스를 정의합니다. 마지막으로, 예측 루프를 실행합니다."와 같이 요청을 구조화할 수 있습니다. 이러한 구조화된 접근 방식은 YOLO26과 같은 모델용으로 생성된 코드가 구문상 정확하고 논리적으로 건전함을 보장합니다.

자율 의사결정#

자율주행 차량 분야에서 시스템은 시각 데이터를 처리하고 안전에 중요한 결정을 내려야 합니다. 생각의 사슬 접근 방식을 사용하면 시스템은 "횡단보도 근처에서 보행자를 감지했습니다. 보행자는 도로를 향하고 있습니다. 내 신호등은 녹색이지만 보행자가 걸어 나올 수 있습니다. 따라서 속도를 줄이고 정차를 준비하겠습니다."와 같이 자신의 논리를 표현할 수 있습니다. 이를 통해 AI의 결정을 해석 가능하게 만들고 설명 가능한 AI(XAI) 원칙과 일치시킵니다.

실무에서의 Chain-of-Thought#

CoT는 주로 자연어 기법이지만, 비전 모델과의 일관된 상호작용을 보장하기 위해 프로그래밍 방식으로 구현할 수 있습니다. 다음 Python 예제는 개발자가 Ultralytics Platform에 대한 유효한 추론 코드를 생성하도록 LLM(여기서는 시뮬레이션됨)을 안내하기 위해 프롬프트를 구조화하는 방법을 보여줍니다.

# Example of structuring a Chain-of-Thought prompt for an LLM
# This prompt guides the model to write a valid YOLO26 inference script

cot_prompt = """
Task: Write a Python script to detect objects using YOLO26.

Chain of Thought:
1. Import the YOLO class from the 'ultralytics' library.
2. Load the 'yolo26n.pt' model weights (the latest nano model).
3. Load a sample image using a URL or local path.
4. Run the predict() function and save the results.

Based on these steps, generate the Python code below:
"""

# In a real application, you would send 'cot_prompt' to an LLM API
print(f"Structured Prompt for LLM:\n{cot_prompt}")

관련 개념 구분#

머신러닝(ML) 생태계에서 생각의 사슬 프롬프팅을 유사한 용어와 구분하는 것은 중요합니다:

• 프롬프트 체이닝: 이는 한 단계의 출력이 다음 단계의 입력이 되는 여러 개의 별도 모델 호출을 연결하는 것을 포함합니다. CoT는 내부 추론을 유도하기 위해 단일 프롬프트 내에서 발생하지만, 프롬프트 체이닝은 여러 상호작용에 걸쳐 워크숍을 오케스트레이션합니다.
• 검색 증강 생성(RAG): RAG는 모델의 지식을 뒷받침하기 위해 외부 데이터(문서나 데이터베이스 등)를 가져오는 데 중점을 둡니다. CoT는 추론 과정 자체에 중점을 둡니다. 종종 사실을 가져오기 위해 RAG를 사용하고 이에 대해 추론하기 위해 CoT를 사용하여 이들이 결합됩니다.
• 프롬프트 튜닝: 이는 학습 중에 연속적인 소프트 프롬프트(벡터)를 최적화하는 파라미터 효율적인 미세 조정 방법입니다. CoT는 모델 가중치를 변경하지 않고 실시간 추론 시점에 적용되는 이산적인 자연어 전략입니다.

미래 전망#

파운데이션 모델이 계속 발전함에 따라 생각의 사슬 프롬프팅은 잠재력을 최대한 발휘하기 위한 표준 모범 사례가 되고 있습니다. Google DeepMind와 같은 그룹의 연구에 따르면 모델의 규모가 커짐에 따라 CoT 추론 수행 능력이 극적으로 향상됩니다. 이러한 발전은 헬스케어부터 스마트 제조에 이르는 산업에서 복잡한 워크플로를 처리할 수 있는 더욱 안정적이고 자율적인 에이전트의 기반을 닦고 있습니다.