Singularity

技術的特異点とは、人工知能 (AI)が人間の追随を超える速さで自己改善できるようになり、機械知能が制御不能な成長を遂げ、その時点より前には予測できない文明の変化が起こるという仮説上の未来の時点です。この名称は数学や物理学に由来し、ブラックホールの中心のように、関数や物理理論が破綻する点を特異点と呼びます。人間の指示なしに自らの知能を向上させたAIシステムはまだ存在しないため、特異点は仮説のままです。しかし、この概念は研究者や政策立案者が汎用人工知能 (AGI)やAI安全性について考える際の指針となっています。

概念の起源#

• John von Neumann (1950年代): 数学者Stanislaw Ulamは、von Neumannが技術の進歩の加速について、「人類の歴史における何らかの本質的な特異点に近づいており、その先では、私たちが知る人間の営みは続けられなくなる」と述べた会話を回想しました。
• I. J. Good (1965): 統計学者は「Speculations Concerning the First Ultraintelligent Machine」で、あらゆる人間より賢い機械がさらに優れた機械を設計する「知能爆発」について述べ、最初のそのような機械を「人間が作る必要のある最後の発明」と呼びました。
• Vernor Vinge (1993): 数学者でSF作家のVingeは、NASAのシンポジウム向けに執筆した「The Coming Technological Singularity」でこの用語を広めました。同論文は「30年以内に、人間を超える知能を生み出す技術的手段を手にするだろう」という一文で始まります。
• Ray Kurzweil (2005): 未来学者の著書The Singularity Is Nearは、コンピューティングにおける指数関数的な傾向を外挿し、特異点が2045年に訪れると予測しました。2024年の続編The Singularity Is Nearerでもこの年を維持し、人間レベルのAIの実現時期として2029年を挙げています。

知能爆発の仕組み#

この仮説の仕組みは、再帰的な自己改善です。現在は人間のエンジニアがニューラルネットワークのアーキテクチャを設計し、学習データを整備して、学習コードを記述しています。その研究自体を行えるシステムは、より高性能な後継システムを構築でき、後継システムは研究をさらにうまく、速く進めることができます。このサイクルが加速するか頭打ちになるかは、各サイクルで得られる成果によって決まります。性能向上によって研究速度がさらに大きく向上するなら成長は加速しますが、計算資源、データ、エネルギー、現実世界での実験がボトルネックになると、成長は鈍化して横ばいになります。

研究者は、移行の速度をテイクオフと呼びます。急速な、つまりハードなテイクオフでは、人間レベルからはるかに人間を超えるAIへ数時間から数日で移行し、誤りを修正する時間がなくなります。緩やかな、つまりソフトなテイクオフでは、数年から数十年かけて進行します。ディープラーニングで観測されたスケーリング則は、計算資源、データ、パラメーターを増やすことで得られる安定したべき乗則に従う性能向上を示します。そのため、スケーリングだけによる進歩は、ハードウェアと投資の拡大に沿って進みます。

特異点、AGI、超知能の比較#

• AGI: 能力の水準を指し、ほぼすべての認知タスクで人間に匹敵するシステムです。自己改善が遅い、または限定的であれば、特異点がなくてもAGIは実現し得ます。
• 人工超知能 (ASI): AGIを超える能力の水準です。哲学者Nick Bostromは、超知能を、関心の対象となるほぼすべての領域で人間の認知能力を大幅に上回る知性と定義しています。
• シンギュラリティ：自己改善型AIがAGIレベルから超知能へ移行し、人間による予測が機能しなくなる出来事、つまりその転換点です。

監督者より賢いシステムを人間の目標に沿わせ続けることは、超整合性として知られる研究課題です。

今日のAIに見られる先駆的な動き#

AIはすでに、開発プロセスの一部を自動化しています。自動機械学習（AutoML）とニューラルアーキテクチャ探索（NAS）は、かつて人が手作業で選んでいたモデル設計を探索します。Ultralytics YOLOのハイパーパラメータ調整は、同じ考え方を小規模に実現したものです。遺伝的アルゴリズムが学習率やデータ拡張の強度などの学習設定を変異させ、モデルを再学習し、最も高いスコアを得た設定を保持します。より大規模な例では、Google DeepMindのAlphaEvolveコーディングエージェントが行列乗算をより高速に分割する方法を見つけ、Geminiのアーキテクチャにおける重要なカーネルを23%高速化し、Geminiの学習時間を1%短縮しました。

批判と議論#

懐疑論者は、知能はプロセッサのトランジスタ数のようには増大しないと主張します。Microsoftの共同創業者Paul AllenとMark Greavesは、2011年の「The Singularity Isn't Near」で「複雑性のブレーキ」を提唱しました。認知の理解が進むたびにさらなる複雑性が明らかになり、進歩が遅くなるという考えです。チップやエネルギーの物理的な限界や、現実世界での実験に時間を要する研究を指摘する人もいます。このシナリオを真剣に受け止める研究者は、そのようなシステムが存在する前にアラインメントの問題を解決するべきだと主張しています。また、2023年5月には、AIによる絶滅リスクの軽減をパンデミックや核戦争と並ぶ世界的な優先課題とすべきだという一文の声明に、数百人のAI科学者や経営幹部が署名しました。Vinge自身の予測には期限が設定されていました。「この出来事が2005年より前、あるいは2030年より後に起きたら、私は驚くでしょう。」