Singularity

기술적 특이점은 인공지능(AI)이 인간이 따라갈 수 있는 속도보다 빠르게 스스로를 개선해 기계 지능이 폭발적으로 성장하고, 그 시점 이전에는 예측할 수 없는 문명 변화를 일으키는 가상의 미래 시점입니다. 이 이름은 블랙홀의 중심처럼 함수나 물리 이론이 성립하지 않는 지점을 뜻하는 수학 및 물리학의 특이점에서 유래했습니다. 아직 인간의 지시 없이 스스로 지능을 향상한 AI 시스템은 없으므로 특이점은 여전히 가설입니다. 그러나 이 개념은 연구자와 정책 입안자가 인공 일반 지능(AGI)과 AI 안전성을 바라보는 관점에 영향을 미칩니다.

개념의 기원#

• John von Neumann(1950년대): 수학자 Stanislaw Ulam은 von Neumann과 나눈 대화를 회고하며, von Neumann이 기술의 가속화되는 발전이 “인류 역사의 어떤 본질적인 특이점에 다가가고 있으며, 그 지점을 넘어서면 우리가 아는 인간사는 계속될 수 없다”고 설명했다고 전했습니다.
• I. J. Good(1965): 통계학자인 그는 “Speculations Concerning the First Ultraintelligent Machine”에서 인간보다 똑똑한 기계가 더 뛰어난 기계를 설계하는 “지능 폭발”을 설명했으며, 최초의 기계는 “인간이 만들어야 할 마지막 발명품”이 될 수 있다고 했습니다.
• Vernor Vinge(1993): 수학자이자 SF 작가인 그는 NASA 심포지엄을 위해 쓴 “The Coming Technological Singularity”에서 이 용어를 널리 알렸으며, 글은 “앞으로 30년 안에 우리는 인간을 초월하는 지능을 만들어낼 기술적 수단을 갖게 될 것”이라는 문장으로 시작합니다.
• Ray Kurzweil(2005): 미래학자인 그는 저서 The Singularity Is Near에서 컴퓨팅의 기하급수적 추세를 외삽해 특이점이 2045년에 도래할 것으로 예측했습니다. 2024년 후속작 The Singularity Is Nearer에서도 그 시점을 유지하고 인간 수준의 AI가 도래할 시점으로 2029년을 제시합니다.

지능 폭발의 작동 방식#

이 가설의 메커니즘은 재귀적 자기 개선입니다. 현재 인간 엔지니어는 신경망 아키텍처를 설계하고 학습 데이터를 선별하며 학습 코드를 작성합니다. 이러한 연구를 스스로 수행할 수 있는 시스템은 더 뛰어난 후속 시스템을 구축할 수 있고, 후속 시스템은 연구를 더 효과적이고 빠르게 수행하는 식으로 이어집니다. 이 순환이 가속화될지 정체될지는 각 주기의 수익률에 달려 있습니다. 역량이 향상될 때마다 연구 속도가 더 크게 높아진다면 성장은 폭발적으로 증가하지만, 컴퓨팅 자원, 데이터, 에너지 또는 현실 세계의 실험이 병목이 되면 성장은 둔화되어 정체됩니다.

연구자들은 전환 속도를 도약(takeoff)이라고 표현합니다. 빠른 도약, 즉 하드 도약은 인간 수준에서 훨씬 뛰어난 AI로 몇 시간 또는 며칠 만에 발전해 실수를 바로잡을 시간이 없는 경우를 말합니다. 느린 도약, 즉 소프트 도약은 수년 또는 수십 년에 걸쳐 진행됩니다. 딥러닝에서 관찰되는 스케일링 법칙은 컴퓨팅 자원, 데이터, 파라미터를 늘릴수록 거듭제곱 법칙에 따라 꾸준히 성능이 향상됨을 설명하므로, 스케일링만으로 이루어지는 발전은 하드웨어와 투자 규모의 증가를 따라갑니다.

특이점, AGI, 초지능 비교#

• AGI: 거의 모든 인지 작업에서 인간과 대등한 시스템을 뜻하는 역량 수준입니다. 자기 개선 속도가 느리거나 제한적이라면 특이점이 없이도 AGI가 존재할 수 있습니다.
• 인공 초지능(ASI): AGI를 넘어서는 역량 수준입니다. 철학자 Nick Bostrom은 초지능을 거의 모든 관심 분야에서 인간의 인지 능력을 크게 뛰어넘는 지성으로 정의합니다.
• 특이점(Singularity): 자기 개선 AI가 AGI 수준에서 초지능으로 전환되어 인간의 예측이 더 이상 통하지 않게 되는 사건입니다.

감독자보다 더 똑똑한 시스템이 인간의 목표에 부합하도록 유지하는 것은 초정렬(superalignment)이라는 연구 문제로 알려져 있습니다.

오늘날 AI에 나타난 전조#

AI는 이미 자체 개발의 좁은 일부 영역을 자동화하고 있습니다. 자동화된 머신러닝(AutoML)과 신경망 아키텍처 탐색(NAS)은 과거에 사람이 직접 선택했던 모델 설계를 탐색합니다. Ultralytics YOLO의 하이퍼파라미터 튜닝은 같은 아이디어를 소규모로 구현한 사례입니다. 유전 알고리즘이 학습률과 증강 강도 같은 학습 설정을 변형하고, 모델을 재학습한 뒤 점수가 가장 높은 설정을 유지합니다. 더 큰 규모에서는 Google DeepMind의 AlphaEvolve 코딩 에이전트가 행렬 곱셈을 더 빠르게 분할하는 방법을 찾아 Gemini 아키텍처의 핵심 커널 속도를 23% 높이고 Gemini의 학습 시간을 1% 단축했습니다.

비판과 논쟁#

회의론자들은 지능이 프로세서의 트랜지스터 수처럼 성장하지 않는다고 주장합니다. Microsoft 공동 창립자 Paul Allen과 Mark Greaves는 2011년 저서 "특이점은 가까이 있지 않다(The Singularity Isn't Near)"에서 "복잡성 제동(complexity brake)"을 제안했습니다. 인지에 대한 이해가 발전할 때마다 더 많은 복잡성이 드러나므로 진전이 느려진다는 것입니다. 다른 이들은 칩과 에너지의 물리적 한계, 그리고 현실 세계에서 느린 실험이 필요한 연구를 지적합니다. 이 시나리오를 진지하게 받아들이는 연구자들은 그러한 시스템이 존재하기 전에 정렬 문제를 해결해야 한다고 주장합니다. 2023년 5월에는 수백 명의 AI 과학자와 경영진이 AI로 인한 멸종 위험 완화가 팬데믹 및 핵전쟁과 함께 세계적 우선순위가 되어야 한다는 한 문장 성명에 서명했습니다. Vinge는 자신의 전망에 기한을 제시했습니다. "이 사건이 2005년 이전이나 2030년 이후에 일어난다면 놀랄 것입니다."