Strong AI

強いAIには2つの意味があります。心の哲学では、John Searleが、適切にプログラムされたコンピューターには文字どおり心があり、処理する内容を理解するという主張を指すために用いた名称です。Searleが1980年の中国語の部屋の議論で反論しようとしたのが、この立場です。現代の技術的な用法では、強いAIは汎用人工知能（AGI）の同義語であり、ほぼすべての認知タスクで人間に匹敵する仮説上のシステムを指します。対照的な用語の弱いAIは、現在では通常、今日使われている限定的でタスク特化型の人工知能（AI）を指します。どちらの意味でも、強いAIと認められている既存のシステムはありません。

Searleの強いAI仮説#

Searleは、Behavioral and Brain Sciencesに掲載された「Minds, Brains, and Programs」で両方の呼称を導入しました。Searleの用法では、弱いAIとは、コンピューターは心をシミュレーションし研究するための強力なツールだとする立場です。強いAIはさらに踏み込み、「適切にプログラムされたコンピューターは本当に心であり、適切なプログラムを与えられたコンピューターは文字どおり理解し、ほかの認知状態を持つと言える」という立場です。この仮説は、思考とは計算であるとする計算主義から導かれます。つまり、どのような素材でできているかにかかわらず、適切なプログラムを実行する機械は思考することになります。

中国語の部屋の議論#

Searleの中国語の部屋の議論では、中国語をまったく話せない人が、英語で書かれたルールブックのある部屋に閉じ込められている状況を想定します。中国語で書かれた質問がスロットから届くと、その人は文字をルールと照合し、指定された文字を書き写して返します。部屋の外にいる母語話者は、部屋の中の誰かが中国語を理解していると思い込むほどの回答を受け取ります。しかし、その人は何も理解していません。Searleは、プログラムを実行するコンピューターも同じだと主張しました。コンピューターは形に基づいて記号を操作しますが、構文だけでは意味を理解するには不十分です。批判者から反論が出され、Searleはそれらに再反論しました。

• システム反論： 人はルールブックやメモ用紙を含むシステムの一部にすぎず、システム全体が理解しているという主張です。Searleは、ルールを暗記してすべてを頭の中で実行しても、中国語を理解できないと反論しました。
• ロボット反論： プログラムをカメラやモーターを備えたロボットに搭載すれば、記号が現実世界の物と結び付くという主張です。Searleは、センサーの読み取り値は操作対象となる記号としてプログラムに届くだけだと反論しました。人が視界に入ったとき、Ultralytics YOLO26検出器を通してカメラ映像を処理するロボットは、クラスインデックス0、信頼度スコア、バウンディングボックス座標を受け取ります。Searleの立場では、これはデータが増えるだけで、理解が加わるわけではありません。Stevan Harnadは後に、この根本的な問いを記号接地問題として定式化しました。つまり、システム自身による世界の知覚と行動を通じて、記号がどのように意味を得るのかという問題です。
• 脳シミュレーター反論： 中国語話者の脳におけるすべてのニューロン発火をプログラムでシミュレートするという提案です。Searleは、脳の発火を模倣する膨大な水道管とバルブの仕組みを操作する人の例を挙げました。脳のシミュレーションは脳そのものではないため、その人と同様に、システムも何も理解しないという反論です。
• 他我反論： 人は行動だけから他者の理解を認めているのだから、同じ証拠をコンピューターにも適用すべきだという主張です。Searleは、問題は誰かに理解があるとどう知るかではなく、理解とは何かだと反論しました。

強いAIとAGI、チューリングテスト、意識#

• AGI：システムが何を実行できるかで測る、能力に関する問いです。Searleの強いAIは内面的な理解に関する問いであり、彼の見解では、機械があらゆる行動テストに合格しても、何も理解していない可能性があります。Ray Kurzweilなどの未来学者は「強いAI」を人間レベルのAGIという意味で使っており、強いAIの潜在的な用途と課題の議論を含め、現在の技術文書の多くはこの意味を採用しています。
• チューリングテスト： Alan Turingは1950年に、「機械は考えることができるか」という問いを、会話だけで判定する模倣ゲームに置き換えることを提案しました。中国語の部屋の議論は、そのようなテストに合格することから真の理解があると結論付ける過程を正面から問い直します。
• 意識： Searleの意味での強いAIは心的状態を含み、多くの哲学者はそれを主観的経験と結び付けています。19人の研究者による2023年の報告では、意識に関する神経科学の理論から導いた指標特性をAIシステムに照らして検討し、「現在、意識を持つAIシステムはない」が、「指標を満たすシステムの構築に明らかな技術的障壁はない」と結論付けました。

強いAIと言語モデル#

大規模言語モデル（LLM）は、中国語の部屋と同様に、中国語や多くの言語で流暢に会話できるため、この議論を再燃させました。Emily BenderとAlexander Kollerは2020年の論文で、言語形式だけで訓練されたシステムは意味を学習できないと主張しました。一方、内部の世界モデルを示す証拠を挙げる研究者もいます。「創発する世界表現」（ICLR 2023）では、研究者らは合法なオセロの手の系列だけでGPTモデルを訓練しました。その結果、プローブによってモデルの活性化から現在の盤面状態を読み取れること、そして内部の盤面状態を編集するとモデルの予測する手が変化することを示しました。