新たな分野、ニューロシンボリックAIの入門

現在、人工知能（AI）の急速な発展と計算能力の利用拡大により、高度なAIモデルがこれまで以上の速さで公開されています。実際、AI分野は多くの業界で有意義なイノベーションを促進しています。

たとえば医療分野では、早期診断に向けた医療画像の解析などを支援するためにAIシステムが活用されています。しかし、ほかのテクノロジーと同様に、AIにも限界があります。

大きな懸念の一つは透明性です。たとえば、物体検出モデルはMRI脳スキャン画像内の腫瘍を正確に特定できる一方で、モデルがどのようにその結論に至ったのかを理解するのは難しい場合があります。説明可能性が欠如すると、医師や研究者がAIの結果を十分に信頼し、検証することが難しくなります。

まさにそのため、新たに発展しているニューロシンボリックAIの分野への関心が高まっています。ニューロシンボリックAIは、ディープラーニングのパターン認識能力と、シンボリックAIが持つ構造化されたルールベースの推論を組み合わせます。目標は、正確な予測を行うだけでなく、人間が理解できる形で推論を説明できるシステムを構築することです。

この記事では、ニューロシンボリック人工知能の仕組みと、学習と推論をどのように組み合わせて、より透明性が高く、文脈を理解できるシステムを構築するかを解説します。

ニューロシンボリックAIを構成する2つの要素：学習と推論#

ニューロシンボリックAIについて詳しく説明する前に、この技術が統合する2つのサブ分野、ディープラーニングとシンボリックAIを見ていきましょう。

ディープラーニングはデータ内のパターン認識に重点を置き、シンボリックAIはルール、論理、常識を使って問題を推論します。それぞれに長所がある一方、限界もあります。両者を組み合わせることで、ニューロシンボリックAIはデータから学習し、その判断をより明確に説明できるシステムを実現します。

ディープラーニングの概要#

ディープラーニングは機械学習の一分野であり、脳の情報処理方法から着想を得た人工ニューラルネットワークを使用します。これらのネットワークは大量のデータを分析し、内部の接続を調整してパフォーマンスを高めることで学習します。

これにより、あらゆる状況に対して人手でルールを作成しなくても、画像、音声、テキスト内のパターンを認識できます。そのため、ディープラーニングは画像認識、音声処理、言語翻訳など、知覚を中心とするタスクで非常に効果的です。

その好例が、画像内の物体をセグメンテーションするようトレーニングされたコンピュータービジョンモデルです。十分な数のラベル付きサンプルがあれば、リアルタイムの交通映像から道路、車両、歩行者を区別できるよう学習できます。

しかし、ディープラーニングモデルは高精度である一方、特定の結果に至った経緯を明確に説明するのが難しい場合がよくあります。一般にブラックボックス問題と呼ばれるこの課題により、特に医療や金融などの慎重な対応が求められる分野で、ユーザーがモデルの判断を解釈したり検証したりすることが難しくなります。責任あるAIには透明性と信頼性、そしてモデルが特定の予測を行った理由を理解できることが求められるため、この問題は重要です。

シンボリックAIについて#

シンボリックAIは、知能や意思決定に対して、より構造化されたアプローチを取ります。知識を記号で表現し、論理ルールを適用してその知識を扱います。これは、問題解決に推論と言語を用いる方法に似ています。推論プロセスの各ステップが定義されているため、シンボリックAIの判断は透明性が高く、説明しやすくなります。

シンボリックな知識は、計画、スケジューリング、構造化された知識の管理など、明確に定義されたルールに従うタスクで特に効果を発揮します。ただし、シンボリックAIは、非構造化データや、事前に定義されたカテゴリにうまく当てはまらない状況への対応が苦手です。

シンボリックなアプローチの一般的な例として、初期のチェスプログラムがあります。これらのプログラムは、人手で作成されたルールと固定された戦略に従い、過去の対局から学習したり、対戦相手に応じて適応したりすることはありませんでした。その結果、プレイは硬直的で予測可能な傾向がありました。

図1. AIとそのサブ分野の構造。（画像提供：著者）

ニューロシンボリックAIとは#

2010年代にディープラーニングが広く普及し始めると、研究者は単純なパターン認識を超え、関係性や文脈の理解へと進む方法を模索し始めました。この変化により、AIモデルは、猫やマットのような物体をシーン内で検出するだけでなく、猫がマットの上に座っていると認識するなど、物体同士の関係も解釈できるようになりました。

しかし、この進歩によって根本的な限界も明らかになりました。ディープラーニングモデルはパターンを非常にうまく認識できますが、推論を説明したり、未知の状況に対処したりすることは苦手な場合がよくあります。推論への関心が再び高まったことで、研究者は1980年代から存在するニューロシンボリックAIという分野に立ち返りました。

ニューロシンボリックAIは、ディープラーニングとシンボリックAIを統合します。ディープラーニングと同様に例から学習できる一方で、シンボリックAIと同様に論理と推論も適用できます。

簡単に言えば、ニューロシンボリックAIは情報を認識し、文脈を理解し、判断をより明確に説明できます。このアプローチは、より信頼性が高く、人間に近い振る舞いをするAIシステムの開発に近づくためのものです。

図2. ニューロシンボリックAIを理解する（画像提供：著者）

ニューロシンボリックAIの仕組みの基本#

ニューロシンボリックアーキテクチャは、単一のフレームワーク内で学習と推論を組み合わせます。通常、主に3つの部分で構成されます。生データを解釈するニューラル知覚レイヤー、論理を適用するシンボリック推論レイヤー、そして両者をつなぐ統合レイヤーです。次に、各レイヤーを詳しく見ていきましょう。

ニューラル知覚レイヤー#

ニューラル知覚コンポーネントは、画像、動画、テキスト、音声などの非構造化データを処理し、システムが扱える内部表現に変換します。通常はディープラーニングモデルを使って、入力内のパターンを検出し、物体や特徴を特定します。この段階では、システムはデータに何が含まれるかを認識しますが、意味、関係性、文脈についてはまだ推論しません。

このレイヤーで使用されるディープラーニングモデルには、次のような一般的な種類があります。

• 畳み込みニューラルネットワーク（CNNs）：画像などの格子状データを処理するために設計されたニューラルネットワークの一種です。CNNsは畳み込みフィルターを使って画像全体を走査し、エッジ、テクスチャ、形状などのパターンを検出します。こうしたパターンを重ね合わせることで、車、果物、人などの物体を認識できるよう学習します。
• Transformer：Transformerは、入力のさまざまな部分がどのように関連しているかを理解するためのモデルです。情報を順番に読むのではなく、データの複数の部分を同時に参照し、どの部分が最も重要かを判断できます。これにより、テキスト、画像、またはその両方の文脈を理解できます。この柔軟性により、Transformerはほとんどの最新言語モデルや多くのビジョン言語システムの中核となるアーキテクチャです。
• リカレントニューラルネットワーク（RNNs）：音声や時系列信号などのシーケンシャルデータを分析するために設計されたモデルです。過去の入力を記憶するため、時間経過に伴う文脈を考慮して予測できます。

最終的に、これらのニューラルモデルは生データから意味のある特徴を抽出し、表現します。この出力がシンボリック推論レイヤーへの入力となり、システムが検出した内容を解釈して推論します。

記号的推論レイヤー#

シンボリック推論レイヤーは、ニューラル知覚レイヤーが生成した情報を受け取り、論理を使って意味を解釈します。単なるパターンではなく、ルール、ナレッジグラフ、ナレッジベース、オントロジー（概念とその相互関係を体系的に記述したもの）などを活用します。これらにより、システムはさまざまな要素の関係や、特定の状況で妥当な行動を理解できます。

たとえば、自動運転車では、ニューラル知覚レイヤーがカメラ映像内の赤信号を認識する場合があります。記号的推論レイヤーは、「信号が赤なら、車両は停止しなければならない」といったルールを適用できます。推論が明確なルールに基づくため、システムの判断は説明や検証が容易になり、安全性と説明責任が重要となる状況で特に役立ちます。

統合レイヤー#

統合レイヤーは、ニューラル知覚レイヤーと記号的推論レイヤーを接続し、学習と推論が連携して動作するようにします。一方向では、ニューラルモデルの出力（歩行者の検出など）を、オブジェクトとその属性を記述する記号表現に変換します。

もう一方では、「横断歩道に歩行者がいる場合、車両は停止しなければならない」といった記号ルールを受け取り、ニューラルモデルを導くシグナルに変換します。これには、画像内の関連領域を強調すること、注意の向け方に影響を与えること、モデルの判断経路を調整することなどが含まれます。

この双方向のやり取りによって、フィードバックループが形成されます。ニューラル側は記号ルールから構造と解釈可能性を得る一方、記号側は実世界のデータに基づいてより効果的に適応できます。論理ニューラルネットワーク（LNN）などの手法は、論理的制約をニューラルアーキテクチャに直接組み込むことで、この連携を可能にします。

このように知覚と推論を結びつけることで、ニューロシンボリックAIは、精度が高く解釈しやすい判断を実現できます。多くの研究者は、このアプローチを、より信頼性が高く人間の価値観に沿ったAIに向けた有望な一歩であり、将来的に汎用人工知能（AGI）へと進歩するための基盤となる可能性があると考えています。

ニューロシンボリックAIの応用例#

ニューロシンボリックAIとは何か、どのように機能するのかを理解したところで、実際のユースケースをいくつか見ていきましょう。

より安全な運転：歩行者の検出から理解へ#

自動運転車が安全に走行するには、周囲の状況を理解する必要があります。コンピュータビジョンなどの技術を使って、歩行者、車両、車線標示、交通標識を検出します。

ディープラーニングモデルはこれらのオブジェクトを正確に識別できますが、状況における意味や、実世界の場面で相互にどのような関係があるのかまでは、必ずしも理解できません。たとえば、ニューラルモデルは横断歩道上の歩行者を認識しても、その歩行者が渡ろうとしているのか、立ち止まって待っているだけなのかを判断できない場合があります。

ニューロシンボリックAIは、視覚認識と論理的推論を自動運転車に組み合わせることで、この課題の解決を目指しています。これにより、オブジェクトを識別するだけでなく、状況を解釈できます。近年のAI研究では、ニューラル知覚と記号ルールを組み合わせたシステムが、歩行者の行動予測を改善できることが示されています。

こうしたシステムでは、ニューラルコンポーネントが歩行者の姿勢、動き、位置などの視覚的手掛かりを分析します。次に、記号コンポーネントが論理ルールを適用し、その人が横断歩道の近くにいるか、現在の信号が何を示しているかなどの要素を考慮します。

この2つの視点を組み合わせることで、ニューロシンボリックシステムは歩行者を検出するだけにとどまりません。歩行者が渡る可能性について妥当な予測を行い、その判断理由を説明できます。これにより、自動運転車の動作はより安全で透明性の高いものになります。

図3. ニューロシンボリックAIを用いて、観察された歩行者の行動に基づく予測を行う。(出典)

視覚的質問応答における論理的解釈#

ニューロシンボリックAIのもう1つの重要な応用例は、視覚的質問応答（VQA）です。VQAシステムは、画像に関する質問に答えるよう設計されています。

このシステムでは、大規模言語モデル（LLM）と視覚モデルを組み合わせてマルチモーダル推論を行い、システムが見たものと理解したものを統合します。たとえば、VQAシステムに画像を提示して「カップはテーブルの上にありますか？」と尋ねた場合、オブジェクトを認識するだけでなく、それらの関係も理解する必要があります。場面内でカップが実際にテーブルの上にあるかどうかを判断しなければなりません。

最近の研究では、ニューラル知覚と記号的推論を統合することで、ニューロシンボリックAIがVQAを強化できることが示されました。提案されたシステムでは、まずニューラルネットワークが画像を分析し、色、形、サイズなどのオブジェクトとその属性を認識します。

次に、記号的推論コンポーネントが論理ルールを適用し、オブジェクト同士の関係を解釈して質問に答えます。「シーンに灰色の円柱はいくつありますか？」と尋ねられた場合、ニューラル部分がすべての円柱とその色を識別し、記号部分が条件に基づいて対象を絞り込み、該当するものを数えます。

図4. 抽象的な知識と論理が必要となるVQAの例。(出典)

こうした研究は、ニューロシンボリックVQAが単に回答を提示するだけにとどまらないことを示しています。モデルが結論に至るまでの手順を示せるため、人が理解できる方法で予測と推論の根拠を説明する説明可能なAIを実現できます。

ニューロシンボリックAIのメリットとデメリット#

ニューロシンボリックAIを利用する主なメリットをいくつか紹介します。

• 高度な推論能力：純粋なディープラーニングモデルとは異なり、ニューロシンボリックAIは、多段階の推論、計画、ルールの順守、構造化された知識領域の処理が必要なタスクを実行できます。こうした領域は、従来、記号AIが得意としてきました。
• 適応性：論理的に推論し、学習した範囲を超えて対応できるため、新しいタスクや未経験のタスクでも高い性能を発揮します。データをただ記憶するのではなく、関係性やパターンを理解します。
• ノイズや曖昧さへの頑健性：論理的制約は、データにノイズや欠損がある場合や、曖昧な場合の誤りを防ぐのに役立ちます。推論レイヤーはルールを適用し、ニューラル予測を導いたり修正したりできます。

ニューロシンボリックAIには大きな可能性がありますが、まだ発展途上であり、実用面でいくつかの課題があります。主な制約を紹介します。

• 統合の複雑さ：このハイブリッドフレームワークは高い解釈可能性を備えていますが、知覚と推論を融合するアルゴリズムの設計は依然として困難です。
• スケーラビリティ：大規模な知識グラフや複雑なルールセットを扱う場合、記号的推論の処理が遅くなったり、計算コストが高くなったりすることがあります。そのため、自動運転、動画処理、大規模な知識推論などのリアルタイムアプリケーションを効率よく展開することが難しくなる場合があります。
• 推論の頑健性：記号ルールが厳格すぎると、曖昧で予測困難な実世界の状況にシステムが対応しにくくなる場合があります。柔軟な学習と信頼性の高い推論のバランスを取ることは、今も課題です。

重要なポイント#

ニューロシンボリックAIは、世界を知覚するだけでなく、それについて推論し、自らの判断を説明できるAIシステムを構築するうえで重要な一歩です。データから学習したパターンに主に依存する従来のディープラーニングシステムとは異なり、ニューロシンボリックAIは統計的学習と構造化された論理・知識を組み合わせます。ディープラーニングに取って代わるのではなく、その上に構築され、人間に近い方法で理解し推論できるAIの開発に一歩近づけます。

コミュニティに参加して、GitHubリポジトリをご覧ください。ソリューションページでは、農業分野のAIや医療分野のコンピュータビジョンのさまざまな活用例をご確認いただけます。ライセンスオプションを確認して、ビジョンAIプロジェクトの構築を始めましょう。