Strong AI

강한 AI라는 용어는 두 가지 의미로 사용됩니다. 심리철학에서 이는 적절히 프로그래밍된 컴퓨터가 실제로 마음을 갖고 처리하는 내용을 이해한다는 주장을 가리키는 John Searle의 용어입니다. Searle은 이 입장을 반박하기 위해 1980년 중국어 방 논증을 제시했습니다. 현대 기술 분야에서 강한 AI는 인공 일반 지능 (AGI)과 동의어로, 사실상 모든 인지 작업에서 인간과 대등한 가상의 시스템을 뜻합니다. 이에 대비되는 용어인 약한 AI는 현재 사용되는 좁은 범위의 특정 작업용 인공지능 (AI)을 가리키는 경우가 많습니다. 어느 의미에서도 강한 AI로 인정받은 시스템은 아직 없습니다.

Searle의 강한 AI 가설#

Searle은 Behavioral and Brain Sciences에 게재된 "Minds, Brains, and Programs"에서 두 용어를 모두 소개했습니다. Searle이 사용한 약한 AI는 컴퓨터가 마음을 시뮬레이션하고 연구하는 강력한 도구라는 입장입니다. 강한 AI는 여기서 더 나아갑니다. "적절히 프로그래밍된 컴퓨터는 실제로 마음이며, 올바른 프로그램을 실행하는 컴퓨터는 문자 그대로 이해하고 다른 인지 상태를 지닌다고 말할 수 있다"는 주장입니다. 이 가설은 사고가 연산이라는 계산주의에서 비롯됩니다. 따라서 올바른 프로그램을 실행하는 기계는 무엇으로 만들어졌든 사고한다는 것입니다.

중국어 방 논증#

Searle의 중국어 방 논증은 중국어를 전혀 모르는 사람이 영어로 쓰인 규칙책과 함께 방에 갇혀 있는 상황을 가정합니다. 투입구로 중국어 질문이 들어오면 그 사람은 문자를 규칙과 대조해 규칙에 지정된 문자를 옮겨 적습니다. 방 밖의 원어민들은 답변을 보고 방 안의 누군가가 중국어를 이해한다고 믿습니다. 하지만 그 사람은 아무것도 이해하지 못합니다. Searle은 프로그램을 실행하는 컴퓨터도 마찬가지라고 주장했습니다. 컴퓨터는 기호의 형태를 기준으로 기호를 조작할 뿐이며, 구문만으로는 의미를 얻을 수 없습니다. 비판자들은 여러 반론을 제시했고 Searle은 이에 재반박했습니다.

• 시스템 반론: 사람은 규칙책과 메모지를 포함한 시스템의 일부일 뿐이며, 시스템 전체가 이해한다는 주장입니다. Searle은 자신이 규칙을 외워 모든 작업을 머릿속에서 하더라도 중국어를 이해하지는 못한다고 답했습니다.
• 로봇 반론: 프로그램을 카메라와 모터가 달린 로봇에 넣어 기호가 세상의 사물과 연결되도록 하자는 주장입니다. Searle은 센서 입력도 프로그램이 조작하는 또 다른 기호로 들어온다고 답했습니다. Ultralytics YOLO26 감지기를 통해 카메라 입력을 처리하는 로봇은 사람이 시야에 들어오면 클래스 인덱스 0과 신뢰도 점수, 박스 좌표를 받습니다. Searle의 관점에서는 이것이 이해가 아니라 데이터만 더하는 셈입니다. Stevan Harnad는 나중에 그 바탕이 되는 질문을 기호 접지 문제로 정리했습니다. 즉, 시스템 자체의 세계에 대한 인식과 행동을 통해 기호가 어떻게 의미를 얻을 수 있는가 하는 문제입니다.
• 뇌 시뮬레이터 반론: 중국어 화자의 뇌에서 발생하는 모든 뉴런의 발화를 프로그램으로 시뮬레이션하자는 주장입니다. Searle은 거대한 수도관과 밸브 시스템을 작동해 이러한 발화를 모방하는 사람을 예로 들었습니다. 뇌를 시뮬레이션해도 뇌 자체가 되는 것은 아니므로, 그 사람과 마찬가지로 시스템도 이해하지 못한다는 것입니다.
• 타인의 마음에 관한 반론: 사람들은 행동만으로 서로의 이해 여부를 판단하므로 컴퓨터에도 같은 증거를 적용해야 한다는 주장입니다. Searle은 쟁점은 누군가가 이해한다는 사실을 우리가 어떻게 아는지가 아니라, 이해란 무엇인지라고 답했습니다.

강한 AI와 AGI, 튜링 테스트 및 의식#

• AGI: 시스템이 할 수 있는 일을 기준으로 측정하는 역량에 관한 질문입니다. Searle의 강한 AI는 내적 이해에 관한 질문이며, 그의 관점에서는 기계가 모든 행동 테스트를 통과해도 아무것도 이해하지 못할 수 있습니다. Ray Kurzweil과 같은 미래학자는 "강한 AI"를 인간 수준의 AGI라는 의미로 사용합니다. 이는 오늘날 대부분의 기술 문서에서 채택하는 의미이며, 강한 AI의 잠재적 응용 분야와 과제에 관한 논의도 이에 해당합니다.
• 튜링 테스트: Alan Turing은 1950년에 "기계가 생각할 수 있는가?"라는 질문을 대화만으로 판정하는 모방 게임으로 대체하자고 제안했습니다. 중국어 방 논증은 이러한 테스트를 통과하는 것과 실제로 이해하는 것 사이의 간극을 정확히 겨냥합니다.
• 의식: Searle의 의미에서 강한 AI는 정신 상태를 전제로 하며, 많은 철학자는 정신 상태를 주관적 경험과 연결합니다. 연구자 19명이 2023년에 발표한 보고서는 의식에 관한 신경과학 이론에서 도출한 지표 속성을 기준으로 AI 시스템을 검토했습니다. 보고서는 "현재 의식이 있는 AI 시스템은 없다"고 결론 내리면서도 지표를 충족하는 시스템을 구축하는 데 "명백한 기술적 장벽은 없다"고 밝혔습니다.

강한 AI와 언어 모델#

대규모 언어 모델 (LLM)은 중국어를 비롯한 여러 언어로 방에 있는 사람처럼 유창하게 대화하면서 논쟁을 다시 불러일으켰습니다. Emily Bender와 Alexander Koller는 2020년 논문에서 언어 형식만 학습한 시스템은 의미를 학습할 수 없다고 주장했습니다. 반면 다른 연구자들은 내부 세계 모델의 증거를 제시합니다. "Emergent World Representations"(ICLR 2023)에서 연구자들은 합법적인 오셀로 수순만으로 GPT 모델을 학습했습니다. 연구진은 프로브를 통해 활성화에서 현재 보드 상태를 읽을 수 있음을 확인하고, 내부 보드 상태를 편집하면 모델이 예측하는 수가 달라진다는 점을 보였습니다.