Chain-of-Thought Prompting

사고 연쇄(CoT) 프롬프팅은 프롬프트 엔지니어링의 고급 기법으로, 대규모 언어 모델(LLMs)이 복잡한 추론 작업을 중간 논리 단계로 나누어 해결할 수 있도록 합니다. 모델에 즉시 최종 답변을 제공하도록 요청하는 대신, CoT는 시스템이 인간의 문제 해결 과정을 모방하는 "사고의 흐름"을 생성하도록 유도합니다. 이러한 단계별 추론은 산술, 기호 논리 및 상식 추론과 관련된 작업의 성능을 크게 향상시켜 인공지능(AI) 시스템과 상호작용하는 방식을 바꿉니다.

추론 메커니즘#

일반적인 언어 모델은 입력을 한 번의 처리 과정에서 출력에 직접 매핑하려 하기 때문에 다단계 문제를 해결하는 데 어려움을 겪는 경우가 많습니다. 이러한 "블랙박스" 접근 방식은 특히 논리적 도약이 너무 클 때 오류를 일으킬 수 있습니다. 사고 연쇄 프롬프팅은 입력 질문과 최종 출력 사이에 추론 단계를 삽입하여 이 문제를 해결합니다.

이 프로세스는 일반적으로 두 가지 방식으로 작동합니다:

• 제로샷 CoT: 사용자가 프롬프트에 "단계별로 생각해 봅시다"와 같은 간단한 트리거 문구를 추가합니다. 특정 예제가 없어도 모델의 잠재된 추론 능력을 활성화합니다.
• 퓨샷 CoT: 프롬프트에 질문과 단계별 풀이가 짝을 이루는 몇 가지 예시(대표 예제)가 포함됩니다. 이는 퓨샷 학습을 활용하여 새로운 문제를 시도하기 전에 모델에 논리를 구성하는 정확한 방법을 보여줍니다.

중간 추론을 명시적으로 생성하면 모델이 스스로 오류를 수정할 기회가 늘어나고, 결론에 도달한 과정을 투명하게 보여줄 수 있습니다. 이는 LLMs의 환각을 줄이는 데 매우 중요합니다. 환각이 발생하면 모델이 틀린 사실을 확신에 차서 진술할 수 있기 때문입니다.

실제 적용 사례#

사고 연쇄 프롬프팅은 처음에는 텍스트 기반 논리를 위해 개발되었지만, 컴퓨터 비전 및 코드 생성과 같은 다른 AI 분야와 결합하면 강력한 응용 분야를 제공합니다.

1. 컴퓨터 비전을 위한 코드 생성 향상#

개발자는 CoT를 사용하여 객체 감지와 같은 작업을 위한 복잡한 소프트웨어 스크립트를 LLMs가 작성하도록 안내합니다. "자동차를 찾는 코드를 작성해 줘"와 같은 모호한 요청 대신, CoT 프롬프트는 다음과 같이 요청을 구조화할 수 있습니다: "첫째, 필요한 라이브러리를 가져옵니다. 둘째, 사전 학습된 모델을 로드합니다. 셋째, 이미지 소스를 정의합니다. 마지막으로 예측 루프를 실행합니다." 이러한 구조화된 접근 방식은 YOLO26과 같은 모델을 위한 생성 코드가 구문상 올바르고 논리적으로 타당하도록 보장합니다.

2. 자율 의사 결정#

자율주행 차량 분야에서는 시스템이 시각 데이터를 처리하고 안전에 중요한 결정을 내려야 합니다. 사고 연쇄 접근 방식을 사용하면 시스템이 논리를 다음과 같이 설명할 수 있습니다: "횡단보도 근처에서 보행자를 감지했습니다. 보행자는 도로를 향하고 있습니다. 신호등은 제가 진행할 수 있는 녹색이지만 보행자가 나설 수 있습니다. 따라서 속도를 줄이고 정지할 준비를 하겠습니다." 이를 통해 AI의 의사 결정을 해석할 수 있으며 설명 가능한 AI(XAI) 원칙에도 부합합니다.

사고 연쇄의 실제 적용#

CoT는 주로 자연어 기법이지만, 비전 모델과의 일관된 상호작용을 보장하도록 프로그래밍 방식으로 구현할 수 있습니다. 다음 Python 예제에서는 개발자가 Ultralytics 플랫폼을 위한 유효한 추론 코드를 생성하도록 LLM(여기서는 시뮬레이션됨)을 안내하는 프롬프트를 구성하는 방법을 보여줍니다.

# Example of structuring a Chain-of-Thought prompt for an LLM
# This prompt guides the model to write a valid YOLO26 inference script

cot_prompt = """
Task: Write a Python script to detect objects using YOLO26.

Chain of Thought:
1. Import the YOLO class from the 'ultralytics' library.
2. Load the 'yolo26n.pt' model weights (the latest nano model).
3. Load a sample image using a URL or local path.
4. Run the predict() function and save the results.

Based on these steps, generate the Python code below:
"""

# In a real application, you would send 'cot_prompt' to an LLM API
print(f"Structured Prompt for LLM:\n{cot_prompt}")

관련 개념 구분하기#

사고 연쇄 프롬프팅은 머신러닝(ML) 분야에서 사용되는 유사한 용어와 구분해야 합니다:

• 프롬프트 체이닝: 여러 개의 독립적인 모델 호출을 연결하는 방식으로, 한 단계의 출력이 다음 단계의 입력이 됩니다. CoT는 내부 추론을 유도하기 위해 단일 프롬프트 내에서 작동하는 반면, 프롬프트 체이닝은 여러 상호작용에 걸쳐 워크플로를 조정합니다.
• 검색 증강 생성(RAG): RAG는 모델의 지식을 뒷받침하기 위해 외부 데이터(문서나 데이터베이스 등)를 가져오는 데 중점을 둡니다. CoT는 추론 과정 자체에 중점을 둡니다. 두 방식은 함께 사용되는 경우가 많으며, RAG로 사실을 확보하고 CoT로 해당 사실을 추론합니다.
• 프롬프트 튜닝: 학습 중 연속적인 소프트 프롬프트(벡터)를 최적화하는 매개변수 효율적 파인튜닝 방법입니다. CoT는 실시간 추론에 적용되는 이산적 자연어 전략으로, 모델 가중치를 변경하지 않습니다.

향후 전망#

파운데이션 모델이 계속 발전함에 따라 사고 연쇄 프롬프팅은 모델의 잠재력을 최대한 끌어내기 위한 표준 모범 사례가 되고 있습니다. Google DeepMind와 같은 연구 그룹의 연구에 따르면 모델 규모가 커질수록 CoT 추론을 수행하는 능력이 크게 향상됩니다. 이러한 발전은 의료부터 스마트 제조에 이르기까지 다양한 산업에서 복잡한 워크플로를 처리할 수 있는 더욱 안정적이고 자율적인 에이전트를 위한 기반을 마련하고 있습니다.