System 2 Thinking

시스템 2 사고는 인간 인지의 이중 과정 이론에서 느리고 노력이 들며 의식적인 추론 방식으로, 빠르고 자동적이며 직관적인 시스템 1과 대비됩니다. 심리학자 Keith Stanovich와 Richard West는 2000년에 이 두 체계를 명명했고, 2002년 노벨 경제학상 기념상을 공동 수상한 Daniel Kahneman은 2011년 저서 생각에 관한 생각으로 두 체계를 널리 알렸습니다. Kahneman은 Shane Frederick의 야구 방망이와 공 문제로 두 체계를 설명합니다. 야구 방망이와 공의 가격 합계는 $1.10이고, 야구 방망이는 공보다 $1.00 더 비쌉니다. 시스템 1은 공의 가격이 10센트라고 답하지만, 계산을 확인하는 시스템 2는 5센트라고 답합니다. 인공지능(AI)에서 이 용어는 답변 전에 추론, 검색 또는 검증을 위해 추가 연산을 수행하는 모델과 시스템을 뜻합니다.

AI의 시스템 1과 시스템 2#

신경망의 단일 순전파는 시스템 1처럼 동작합니다. 이미지 분류 모델, 객체 탐지 모델 또는 대규모 언어 모델(LLM)의 다음 토큰 예측 하나는 입력의 난이도와 관계없이 같은 고정 연산량을 사용합니다. Yoshua Bengio는 NeurIPS 2019 기조연설 "From System 1 Deep Learning to System 2 Deep Learning"에서 이 구분을 핵심 주제로 다루며, 딥러닝은 빠른 지각 능력을 습득했지만 시스템 2가 제공하는 추론, 계획 수립, 새로운 상황에 대한 일반화 능력은 여전히 필요하다고 주장했습니다. 시스템 2 방식에서는 검색, 단계별 추론 또는 답변을 확정하기 전 검증을 통해 문제의 난이도에 따라 연산량을 늘릴 수 있습니다.

게임 플레이 AI는 초기에 두 체계를 결합했습니다. AlphaGo는 유망한 수를 빠르게 제안하는 정책 네트워크와 선택 전에 여러 수순을 검토하는 몬테카를로 트리 탐색(MCTS)을 결합했습니다. Thomas Anthony, Zheng Tian, David Barber의 논문 딥러닝과 트리 탐색을 통한 빠른 사고와 느린 사고(2017)는 빠른 네트워크가 느린 탐색을 모방하도록 학습했습니다. 그 결과 숙고를 통해 얻은 능력이 시간이 지나면서 직관으로 자리 잡습니다. 두 방식을 모두 사용하는 시스템은 다음과 같이 입력을 처리하는 경우가 많습니다.

언어 모델의 시스템 2 기법#

연쇄 사고 프롬프팅은 LLM이 중간 단계를 작성하도록 해 답변 전에 더 많은 토큰, 즉 더 많은 연산을 사용하게 합니다. 2023년 논문에서 이중 과정 이론을 직접 인용한 사고 트리는 여러 갈래의 추론 경로를 탐색하고 막다른 경로에서 되돌아옵니다. 숫자 24 만들기 게임에서 이 방식은 GPT-4의 성공률을 연쇄 사고 프롬프팅의 4%에서 74%로 높였습니다. OpenAI의 o1과 DeepSeek-R1 같은 추론 모델은 강화 학습으로 자체적으로 길게 생각하도록 학습됩니다. 또한 과정 보상 모델(PRM)은 탐색 중 후보 해결책의 각 단계를 검사할 수 있습니다.

많은 제품은 두 모드를 모두 제공합니다. 2025년 2월 출시된 Anthropic의 Claude 3.7 Sonnet은 설정에 따라 직접 답하거나 확장된 사고 과정을 사용하며, 2025년 8월 출시된 GPT-5는 위 다이어그램과 유사하게 각 요청을 빠른 모델 또는 더 깊은 추론 모델로 보내는 라우터를 사용합니다.

비전 및 로보틱스에서의 빠른 시스템과 느린 시스템#

로보틱스는 서로 다른 속도로 실행되는 별도 모델에 두 체계를 나눠 적용합니다. Figure의 Helix는 2025년 2월 발표됐으며, 70억 개 매개변수의 비전-언어 모델(VLM)을 시스템 2로 초당 7~9회 실행해 장면과 음성 명령을 해석하고, 8천만 개 매개변수의 제어 정책을 시스템 1로 초당 200회 실행해 VLM 출력을 손가락 하나하나의 움직임까지 포함하는 연속적인 상체 움직임으로 변환합니다.

비전 파이프라인도 비용을 제어하기 위해 같은 분할 방식을 사용합니다. Ultralytics Platform Agents의 YOLO to VLM Monitor 템플릿은 모든 이미지에서 YOLO26 나노 모델을 실행하고 YOLO가 사람을 한 명 이상 감지한 경우에만 VLM을 호출해 장면을 설명합니다. 따라서 사람이 없는 이미지는 더 느리고 비용이 더 많이 드는 모델에 전달되지 않습니다.

비용과 한계#

Kahneman은 시스템 2를 게으른 체계라고 설명했습니다. 의식적인 사고는 피곤하게 하므로 사람들은 기본적으로 시스템 1을 사용하고 그 오류를 자주 받아들입니다. AI에서 비용은 지연 시간과 연산량입니다. 추론 모델은 빠른 모델이 한 번에 처리하는 질문에 답하기 위해 수천 개의 숨겨진 토큰을 생성할 수 있으며, 라우팅이 이 비용을 얼마나 자주 지불할지 결정합니다. 숙고한다고 해서 추론이 반드시 타당해지는 것은 아닙니다. 모델이 작성한 단계와 답변을 생성한 연산은 다를 수 있으며, 이 차이는 설명 가능한 AI(XAI) 분야에서 연구되고 있습니다. 잠재 추론 방식은 숙고 과정을 숨겨진 상태로 옮겨 기록된 흔적을 전혀 남기지 않습니다.