新たな分野であるニューロシンボリックAIの入門

現在、人工知能 (AI)の急速な発展とコンピューティングパワーの利用可能性の高まりにより、高度なAIモデルがかつてない速さでリリースされています。実際、AI分野は多くの業界で有意義なイノベーションを促進しています。

例えば医療分野では、早期診断のための医療画像の分析など、さまざまな作業を支援するためにAIシステムが使用されています。しかし、他のテクノロジーと同様に、AIにも限界があります。

大きな懸念の一つは透明性です。例えば、物体検出モデルはMRIによる脳スキャン画像上の腫瘍を正確に特定できる一方で、モデルがどのようにその結論に至ったのかを理解するのは難しい場合があります。この説明可能性の欠如により、医師や研究者がAIの結果を十分に信頼または検証することが難しくなります。

まさにそのため、新興分野であるニューロシンボリックAIへの関心が高まっています。ニューロシンボリックAIは、深層学習のパターン認識能力と、シンボリックAIに見られる構造化されたルールベースの推論を組み合わせます。目標は、正確な予測を行うだけでなく、人間が理解できる形で推論を説明できるシステムを作ることです。

この記事では、ニューロシンボリック人工知能の仕組みと、学習と推論を組み合わせて、より透明性が高くコンテキストを理解できるシステムを構築する方法について説明します。それでは始めましょう。

ニューロシンボリックAIの二つの側面：学習と推論#

ニューロシンボリックAIについて詳しく見ていく前に、それを構成する二つのサブフィールド、深層学習とシンボリックAIについて確認しましょう。

深層学習はデータ内のパターン認識に重点を置く一方、シンボリックAIはルール、論理、常識を使用して問題を推論します。それぞれに強みと限界があります。両者を組み合わせることで、ニューロシンボリックAIはデータから学習すると同時に、意思決定をより明確に説明できるシステムを実現します。

深層学習の概要#

深層学習は、脳が情報を処理する仕組みに緩やかに着想を得た人工ニューラルネットワークを使用する機械学習の一分野です。これらのネットワークは大量のデータを分析し、性能を向上させるために内部接続を調整することで学習します。

これにより、あらゆる状況に対して手作業でルールを作成しなくても、画像、音声、テキスト内のパターンを認識できます。そのため、深層学習は画像認識、音声処理、言語翻訳など、知覚を重視するタスクに非常に効果的です。

良い例として、画像内の物体をセグメンテーションするように学習したコンピュータービジョンモデルが挙げられます。十分なラベル付きの例があれば、リアルタイムの交通映像から道路、車両、歩行者を分離する方法を学習できます。

しかし、深層学習モデルは高い精度を持つ一方で、特定の結果にどのように到達したのかを明確に説明することが難しい場合があります。一般にブラックボックス問題と呼ばれるこの課題により、特に医療や金融などのセンシティブな分野で、ユーザーがモデルの意思決定を解釈または検証することが難しくなります。これは、責任あるAIに透明性、信頼性、そしてモデルがなぜ特定の予測を行ったのかを理解する能力が必要だからこそ重要です。

シンボリックAIを探る#

シンボリックAIは、知能と意思決定に対して、より構造化されたアプローチを取ります。知識をシンボルで表現し、その知識を扱うために論理ルールを適用します。これは、私たちが推論と言語を使って問題を解決する方法に似ています。推論プロセスの各ステップが定義されているため、シンボリックAIの意思決定は透明で、説明しやすくなります。

シンボリック知識は、計画、スケジューリング、構造化された知識の管理など、明確で十分に定義されたルールに従うタスクで特に効果を発揮します。しかし、シンボリックAIは、非構造化データや、事前定義されたカテゴリーにきれいに当てはまらない状況を扱うのが苦手です。

シンボリックアプローチの実例として、初期のチェスプログラムがよく挙げられます。これらは過去の対局から学習したり、異なる対戦相手に適応したりするのではなく、手作業で作成されたルールと固定された戦略に従っていました。その結果、ゲームプレイは硬直的で予測しやすい傾向がありました。

図1. AIの構造とそのサブフィールド。（著者による画像）

ニューロシンボリックAIとは何ですか？#

2010年代、深層学習が広く採用されるようになると、研究者は単純なパターン認識を超えて、関係性やコンテキストを理解する方法を探し始めました。この変化により、AIモデルはシーン内の猫やマットなどの物体を検出するだけでなく、それらの物体がどのように関係しているか、例えば猫がマットの上に座っていることまで解釈できるようになりました。

しかし、この進展は根本的な限界も浮き彫りにしました。深層学習モデルはパターンを非常に得意に認識できますが、推論を説明したり、未知の状況に対応したりするのが苦手な場合があります。この推論への関心の高まりにより、研究者は1980年代から存在する分野、ニューロシンボリックAIに再び注目するようになりました。

ニューロシンボリックAIは、深層学習とシンボリックAIを統合します。深層学習と同じように例から学習しながら、シンボリックAIのように論理と推論を適用できます。

簡単に言えば、ニューロシンボリックAIは情報を認識し、コンテキストを理解し、意思決定をより明確に説明できます。このアプローチにより、より信頼性が高く、人間に近い方法で動作するAIシステムの開発に近づくことができます。

図2. ニューロシンボリックAIを理解する。（著者による画像）

ニューロシンボリックAIの仕組みの基礎#

ニューロシンボリックアーキテクチャは、単一のフレームワーク内で学習と推論を組み合わせます。通常、主に三つの部分で構成されます。生データを解釈するニューラル知覚レイヤー、論理を適用するシンボリック推論レイヤー、そして両者を接続する統合レイヤーです。次に、各レイヤーを詳しく見ていきます。

ニューラル知覚レイヤー#

ニューラル知覚コンポーネントは、画像、動画、テキスト、音声などの非構造化データを処理し、システムが扱える内部表現に変換します。通常、深層学習モデルを使用して入力内のパターンを検出し、物体や特徴を特定します。この段階では、システムはデータ内に何が存在するかを認識しますが、意味、関係性、コンテキストについてはまだ推論しません。

このレイヤーで使用される一般的な深層学習モデルには、次のような種類があります。

• 畳み込みニューラルネットワーク (CNNs)：画像などのグリッド状データを処理するよう設計されたニューラルネットワークの一種です。CNNsは畳み込みフィルターを使用して画像全体を走査し、エッジ、テクスチャ、形状などのパターンを検出します。これらのパターンを積み重ねることで、車、果物、人などの物体を認識する方法を学習します。
• Transformer：Transformerは、入力の異なる部分が互いにどのように関係しているかを理解するよう設計されたモデルです。情報を厳密に順番どおり読むのではなく、データの複数の部分を同時に確認し、どの部分が最も重要かを判断できます。これにより、テキスト、画像、またはその両方のコンテキストを理解できます。この柔軟性により、Transformerは現代の大半の言語モデルと、多くの視覚言語システムを支える中核アーキテクチャとなっています。
• 再帰型ニューラルネットワーク (RNNs)：音声や時系列信号などのシーケンシャルデータを分析するよう設計されたモデルです。過去の入力を記憶するため、予測に時間経過に伴うコンテキストを考慮させることができます。

最終的に、これらのニューラルモデルは生データから意味のある特徴を抽出して表現します。この出力がシンボリック推論レイヤーの入力となり、システムが検出した内容を解釈して推論します。

シンボリック推論レイヤー#

シンボリック推論レイヤーは、ニューラル知覚レイヤーが生成した情報を受け取り、論理を使って意味を解釈します。単なるパターンに基づいて処理するのではなく、ルール、知識グラフ、ナレッジベース、オントロジー（概念とその相互関係を整理した記述）などを利用します。これらにより、システムは異なる要素がどのように結びつくか、また特定の状況でどのアクションが妥当かを理解できます。

例えば自動運転車では、ニューラル知覚レイヤーがカメラ映像内の赤信号を認識する場合があります。続いてシンボリック推論レイヤーが、「信号が赤なら、車両は停止しなければならない」というルールを適用できます。推論が明確なルールに基づくため、システムの意思決定は説明・検証しやすくなります。これは、安全性と説明責任が重要な状況で特に重要です。

統合レイヤー#

統合レイヤーはニューラル知覚レイヤーとシンボリック推論レイヤーを接続し、学習と推論が連携して動作するようにします。一方向では、ニューラルモデルの出力（歩行者の検出など）を、物体とその属性を記述するシンボリック表現に変換します。

もう一方向では、シンボリックルール（例えば「横断歩道に歩行者がいる場合、車両は停止しなければならない」）を、ニューラルモデルを導くシグナルに変換します。これには、画像の関連領域の強調、注意の誘導、モデルの意思決定経路の形成などが含まれる場合があります。

この双方向のやり取りによって、フィードバックループが形成されます。ニューラル側はシンボリックルールから構造と解釈可能性を得る一方、シンボリック側は現実世界のデータに基づいてより効果的に適応できます。論理ニューラルネットワーク (LNNs) などの技術は、論理制約をニューラルアーキテクチャに直接組み込むことで、この相互作用を可能にします。

このように知覚と推論を結び付けることで、ニューロシンボリックAIは正確でありながら解釈しやすい意思決定を生成できます。多くの研究者は、このアプローチを、より信頼性が高く人間の価値観に沿ったAI、そして将来的な汎用人工知能 (AGI)の発展に向けた基盤への有望な一歩と見なしています。

ニューロシンボリックAIの応用#

ニューロシンボリックAIとは何か、どのように機能するかを理解できたところで、現実世界におけるユースケースをいくつか見ていきましょう。

より安全な運転：歩行者を見つけることから理解することへ#

自動運転車は安全に動作するために、周囲の状況を理解する必要があります。コンピュータービジョンなどのテクノロジーを使用して、歩行者、車両、車線標示、交通標識を検出します。

深層学習モデルはこれらの物体を正確に識別できますが、現実世界の状況において、それらがコンテキスト上何を意味するのか、また互いにどのように関係しているのかを常に理解できるとは限りません。例えば、ニューラルモデルは横断歩道上の歩行者を認識できても、その歩行者が渡ろうとしているのか、単に立って待っているのかを判断できない場合があります。

ニューロシンボリックAIは、視覚認識と論理的推論を組み合わせ、物体を単に識別するのではなく状況を解釈できるようにすることで、この隔たりを埋めようとします。近年のAI研究では、ニューラル知覚とシンボリックルールを組み合わせたシステムにより、歩行者行動予測を改善できることが示されています。

これらのシステムでは、ニューラルコンポーネントが歩行者の姿勢、動き、位置などの視覚的手掛かりを分析します。次にシンボリックコンポーネントが論理ルールを適用し、その人が横断歩道の近くにいるか、現在の信号が何を示しているかなどの要素を考慮します。

これら二つの視点を組み合わせることで、ニューロシンボリックシステムは歩行者を検出するだけにとどまりません。歩行者が渡る可能性について妥当な予測を行い、その判断理由も説明できます。これにより、自動運転車の挙動がより安全で透明性の高いものになります。

図3. ニューロシンボリックAIを使用して観測された歩行者の行動に基づいて予測する。(出典)

Visual Question Answeringにおける論理的解釈#

ニューロシンボリックAIのもう一つの重要な応用は、画像質問応答 (VQA)です。VQAシステムは、画像に関する質問に回答するよう設計されています。

これは大規模言語モデル (LLMs) と視覚モデルを組み合わせてマルチモーダル推論を実行し、システムが見ているものと理解しているものを統合します。例えば、VQAシステムに画像を見せて「カップはテーブルの上にありますか？」と尋ねた場合、物体を認識するだけでなく、それらの関係も理解する必要があります。シーン内でカップが実際にテーブルの上にあるかどうかを判断しなければなりません。

最近の研究では、ニューラル知覚とシンボリック推論を統合することで、ニューロシンボリックAIがVQAを強化できることが示されました。提案されたシステムでは、ニューラルネットワークがまず画像を分析し、色、形状、サイズなどの物体とその属性を認識します。

次にシンボリック推論コンポーネントが論理ルールを適用し、物体同士の関係を解釈して質問に回答します。「シーン内に灰色の円柱はいくつありますか？」と尋ねられた場合、ニューラル部分がすべての円柱とその色を特定し、シンボリック部分が条件に基づいて対象を絞り込み、該当するものを数えます。

図4. 抽象的な知識と論理が必要となるVQAシナリオの例。(出典)

このような研究は、ニューロシンボリックVQAが単に回答を提供するだけにとどまらないことを示しています。モデルが結論に至るまでの手順を示せるため、システムが予測を行い、人間が理解できる形で推論を正当化する説明可能なAIを実現できます。

ニューロシンボリックAIのメリットとデメリット#

ニューロシンボリックAIを使用する主なメリットは次のとおりです。

• **より高度な推論能力：**純粋な深層学習モデルとは異なり、ニューロシンボリックAIは、多段階推論、計画、ルール遵守、構造化された知識領域の処理を必要とするタスクを実行できます。これらは従来、シンボリックAIが得意としてきた分野です。
• **適応性：**これらのシステムは、学習した範囲を超えて論理的に推論できるため、新しいタスクや未知のタスクでも優れた性能を発揮します。単にデータを記憶するのではなく、関係性とパターンを理解します。
• **ノイズと曖昧さへの堅牢性：**論理制約は、データにノイズがある、不完全である、または曖昧である場合のエラー防止に役立ちます。推論レイヤーは、ニューラル予測を導いたり修正したりするルールを適用できます。

可能性がある一方で、ニューロシンボリックAIはまだ発展途上であり、実用面でいくつかの課題があります。主な限界は次のとおりです。

• **複雑な統合：**このハイブリッドフレームワークは高い解釈可能性をもたらしますが、知覚と推論を統合するアルゴリズムの設計は依然として困難です。
• **スケーラビリティ：**大規模な知識グラフや複雑なルールセットを扱う場合、シンボリック推論は遅くなったり、計算コストが高くなったりする可能性があります。そのため、自動運転、動画処理、大規模な知識推論などのリアルタイムアプリケーションを効率的にデプロイすることが難しくなる場合があります。
• **推論の堅牢性：**シンボリックルールが厳格すぎると、曖昧または予測不可能な現実世界のシナリオでシステムが苦戦する可能性があります。柔軟な学習と信頼性の高い推論のバランスを取ることは、現在も継続的な課題です。

主なポイント#

ニューロシンボリックAIは、世界を知覚するだけでなく、世界について推論し、意思決定を説明できるAIシステムの構築に向けた重要な一歩です。データから学習したパターンに大きく依存する従来の深層学習システムとは異なり、ニューロシンボリックAIは統計的学習と構造化された論理・知識を組み合わせます。深層学習を置き換えるのではなく、その上に構築することで、より人間に近い方法で理解し推論できるAIの開発に少し近づけます。

コミュニティに参加し、GitHubリポジトリをご覧ください。ソリューションページで、農業におけるAIや医療におけるコンピュータービジョンのさまざまな応用をご確認ください。ライセンスオプションを確認して、ビジョンAIプロジェクトの構築を始めましょう。