神経記号AIという新興分野の紹介

今日、人工知能 (AI)の急速な発展とコンピューティングリソースの利用可能性の拡大により、高度なAIモデルはかつてないスピードでリリースされています。実際、AIの領域は多くの業界において有意義なイノベーションを推進しています。

例えばヘルスケア分野では、医療画像の分析による早期診断などのタスクを支援するためにAIシステムが活用されています。しかし、他の技術と同様に、AIにも限界があります。

大きな懸念の一つは透明性です。例えば、物体検出モデルがMRI脳スキャン画像内の腫瘍を正確に特定できたとしても、モデルがなぜその結論に至ったのかを理解することは困難です。このような説明可能性の欠如は、医師や研究者がAIの結果を完全に信頼したり検証したりすることを難しくしています。

まさにそれが、ニューロシンボリックAIという新たな分野への関心が高まっている理由です。ニューロシンボリックAIは、ディープラーニングのパターン認識能力と、シンボリックAIの構造化されたルールベースの推論能力を組み合わせたものです。その目的は、正確な予測を行うだけでなく、人間が理解できる形でその推論プロセスを説明できるシステムを構築することにあります。

本記事では、ニューロシンボリックAIがどのように機能し、学習と推論を融合させてより透明性が高く文脈を理解できるシステムを構築するのかを探ります。それでは始めましょう！

Link to this sectionニューロシンボリックAIの二つの側面：学習と推論#

ニューロシンボリックAIについて掘り下げる前に、それが融合させる二つのサブ分野、すなわちディープラーニングとシンボリックAIについて詳しく見ていきましょう。

ディープラーニングはデータのパターン認識に重点を置き、一方のシンボリックAIはルール、論理、常識を用いて問題を推論します。それぞれに強みがありますが、制限もあります。これらを組み合わせることで、ニューロシンボリックAIはデータから学習し、意思決定をより明確に説明できるシステムを生み出します。

Link to this sectionディープラーニングの概要#

ディープラーニングは機械学習の一分野であり、脳の情報処理プロセスから着想を得た人工ニューラルネットワークを利用します。これらのネットワークは、膨大なデータを分析し、内部の接続を調整することでパフォーマンスを向上させ、学習を行います。

これにより、あらゆる状況に対して手作業でルールを作成することなく、画像、音声、テキスト内のパターンを認識することが可能になります。このため、ディープラーニングは画像認識、音声処理、言語翻訳といった知覚に焦点を当てたタスクにおいて非常に高い効果を発揮します。

その好例として、画像内の物体をセグメンテーションするように訓練されたコンピュータビジョンモデルが挙げられます。十分なラベル付きデータがあれば、リアルタイムの交通映像において道路、車両、歩行者を切り分けて認識できるようになります。

しかし、高い精度にもかかわらず、ディープラーニングモデルは特定の結論に至った経緯を明確に説明するのに苦労することがよくあります。これは一般的にブラックボックス問題と呼ばれ、特にヘルスケアや金融といった機密性の高い分野において、ユーザーがモデルの判断を解釈したり検証したりすることを困難にしています。責任あるAIには透明性や信頼性、そしてモデルがなぜ特定の予測を行ったのかを理解できる能力が必要であるため、これは極めて重要な問題です。

Link to this sectionシンボリックAIの探求#

シンボリックAIは、知能や意思決定に対してより構造的なアプローチをとります。人間が問題解決のために推論や言語を使用するのと同様に、シンボルを用いて知識を表現し、論理的なルールを適用してその知識を処理します。推論プロセスの各ステップが定義されているため、シンボリックAIの意思決定は透明であり、説明が容易です。

シンボリックな知識は、計画立案、スケジュール管理、構造化された知識の管理など、明確かつ定義されたルールに従うタスクにおいて特にうまく機能します。しかし、シンボリックAIは構造化されていないデータや、事前に定義されたカテゴリーにはうまく当てはまらない状況に対処するのには苦労します。

シンボリックなアプローチが活用されていた身近な例として、初期のチェスプログラムがあります。それらは以前の対局から学習したり、相手に合わせて適応したりするのではなく、人間が作成したルールや固定された戦略に従っていました。その結果、ゲームプレイは硬直的で予測可能なものになる傾向がありました。

図1. AIの構造とそのサブ分野。（画像提供：著者）

Link to this sectionニューロシンボリックAIとは何か？#

2010年代にディープラーニングがより広く採用されるにつれ、研究者たちは単純なパターン認識を超えて、関係性や文脈を理解するための方法を模索し始めました。この変化により、AIモデルは単にシーン内の物体（猫やマットなど）を検出するだけでなく、猫がマットの上に座っているといった、それらの物体がどのように関連しているのかを解釈することが可能になりました。

しかし、この進歩は根本的な限界も浮き彫りにしました。ディープラーニングモデルはパターンを極めて正確に認識できますが、推論を説明したり、不慣れな状況に対処したりすることには苦労することが多いのです。この推論への再注目が、1980年代から存在するニューロシンボリックAIという分野へ研究者たちを立ち返らせました。

ニューロシンボリックAIは、ディープラーニングとシンボリックAIを統合します。これにより、ディープラーニングと同じ方法で例から学習しつつ、シンボリックAIのように論理や推論を適用することが可能になります。

端的に言えば、ニューロシンボリックAIは情報を認識し、文脈を理解し、その決定に対してより明確な説明を提供することができます。このアプローチにより、より信頼性が高く人間のような振る舞いをするAIシステムの開発に一歩近づきます。

図2. ニューロシンボリックAIの理解。（画像提供：著者）

Link to this sectionニューロシンボリックAIが機能する仕組みの基礎#

ニューロシンボリックアーキテクチャは、一つのフレームワーク内で学習と推論を融合させます。一般的に、生データを解釈する「ニューラル知覚レイヤー」、論理を適用する「シンボリック推論レイヤー」、そして両者をつなぐ「統合レイヤー」の3つの主要部分で構成されます。次に、各レイヤーを詳しく見ていきましょう。

Link to this sectionニューラル知覚レイヤー#

ニューラル知覚コンポーネントは、画像、ビデオ、テキスト、音声などの構造化されていないデータを処理し、システムが扱える内部表現へと変換します。通常、ディープラーニングモデルを使用してパターンを検出し、入力内の物体や特徴を特定します。この段階では、システムはデータ内に何が存在するかを認識しますが、その意味、関係性、文脈について推論することはありません。

このレイヤーで使用される一般的なディープラーニングモデルの種類をいくつか紹介します。

• 畳み込みニューラルネットワーク (CNN)：画像のようなグリッド状のデータを処理するために設計されたニューラルネットワークの一種です。CNNは畳み込みフィルタを使用して画像全体をスキャンし、エッジ、テクスチャ、形状といったパターンを検出します。これらのパターンを積み重ねることで、車、果物、人間といった物体を認識する方法を学習します。
• Transformer：Transformerは、入力の各部分が互いにどのように関連しているかを理解するために設計されたモデルです。情報を順番通りに読み込むのではなく、データの複数の部分を同時に見て、どの部分が最も重要かを判断します。これにより、テキストや画像、あるいはその両方における文脈を理解できます。この柔軟性のため、Transformerは現代の主要な言語モデルや多くの視覚言語システムのコアアーキテクチャとなっています。
• リカレントニューラルネットワーク (RNN)：このタイプのモデルは、音声や時系列信号などの順序データ（シーケンシャルデータ）を分析するために設計されています。以前の入力のメモリを保持するため、時間の経過に伴う文脈を考慮した予測が可能です。

最終的に、これらのニューラルモデルは生データから意味のある特徴を抽出し、表現します。この出力が、シンボリック推論レイヤーへの入力となり、システムが検出したものについて解釈や推論が行われます。

Link to this sectionシンボリック推論レイヤー#

シンボリック推論レイヤーは、ニューラル知覚レイヤーによって生成された情報を取得し、論理を用いて解釈します。単にパターンから作業するのではなく、ルール、ナレッジグラフ、ナレッジベース、オントロジー（概念とその相互関係の組織的な説明）といった要素に依存します。これらは、システムが各要素がどのように適合しているか、そして特定の状況でどのような行動が論理的かを理解する助けとなります。

例えば自動運転車において、ニューラル知覚レイヤーがカメラ映像内の赤信号を認識したとします。するとシンボリック推論レイヤーは「信号が赤であれば、車両は停止しなければならない」といったルールを適用します。推論が明確なルールに基づいているため、システムの判断は説明や検証が容易になり、安全や説明責任が重要となる状況では特に重要です。

Link to this section統合レイヤー#

統合レイヤーはニューラル知覚レイヤーとシンボリック推論レイヤーを接続し、学習と推論が連携して動作するようにします。一つの方向としては、ニューラルモデルからの出力（歩行者の検出など）を、物体とその属性を説明するシンボリック表現へと変換します。

もう一方の方向としては、シンボリックルール（例：「歩行者が横断歩道にいる場合、車両は停止しなければならない」）を取り込み、ニューラルモデルを誘導するシグナルへと変換します。これには、画像の関連領域を強調したり、注意（アテンション）に影響を与えたり、モデルの意思決定経路を形成したりすることが含まれます。

この双方向のやり取りがフィードバックループを形成します。ニューラル側はシンボリックルールから構造と解釈可能性を獲得し、一方のシンボリック側は現実のデータに基づいてより効果的に適応できます。論理ニューラルネットワーク (LNN) といった手法は、論理的な制約を直接ニューラルアーキテクチャに埋め込むことで、このような相互作用を可能にします。

このように知覚と推論を連携させることで、ニューロシンボリックAIは正確かつ解釈しやすい判断を下すことが可能になります。多くの研究者は、このアプローチがより信頼性が高く人間に調和したAIへの有望な一歩であり、将来的な人工汎用知能 (AGI)への進歩の基盤になると考えています。

Link to this sectionニューロシンボリックAIのアプリケーション#

ニューロシンボリックAIとは何か、そしてそれがどのように機能するのかを理解したところで、実際のユースケースをいくつか見ていきましょう。

Link to this sectionより安全な運転：歩行者を見つけることから理解することへ#

自動運転車が安全に動作するためには、周囲の状況を理解する必要があります。そのため、歩行者、車両、車線区分、交通標識などを検出するためにコンピュータビジョンなどの技術を活用しています。

ディープラーニングモデルはこれらの物体を正確に識別できますが、文脈の中でそれらの物体が何を意味するのか、現実の状況において互いにどのような関係にあるのかを常に理解しているとは限りません。例えば、ニューラルモデルは横断歩道にいる歩行者を認識できても、その人がこれから渡ろうとしているのか、単に立ち止まって待っているだけなのかまでは判断できません。

ニューロシンボリックAIは、自動運転車が視覚認識と論理推論を組み合わせることを可能にすることで、このギャップを埋めようとします。これにより、単に物体を識別するだけでなく状況を解釈できるようになります。最近のAI研究では、ニューラル知覚とシンボリックルールを組み合わせたシステムが歩行者の行動予測を改善できることが示されています。

これらのシステムでは、ニューラルコンポーネントが歩行者の姿勢、動き、位置といった視覚的手がかりを分析します。続いてシンボリックコンポーネントが、その人物が横断歩道に近いかどうかや、現在の信号機が何を示しているかといった要因を考慮して論理的なルールを適用します。

これら二つの視点を組み合わせることで、ニューロシンボリックシステムは単に歩行者を検出する以上のことができます。歩行者が渡る可能性が高いかどうかを合理的に予測し、なぜそのような決定を下したのかを説明できるのです。これは自動運転車において、より安全で透明性の高い行動につながります。

図3. ニューロシンボリックAIを用いた歩行者行動の観測に基づく予測。(出典)

Link to this section視覚質問応答における論理的解釈#

ニューロシンボリックAIのもう一つの重要なアプリケーションは、視覚質問応答 (VQA) です。VQAシステムは、画像に関する質問に答えるために設計されています。

これは大規模言語モデル (LLM) と視覚モデルを融合させ、システムが「見る」ものと「理解する」ものを組み合わせたマルチモーダルな推論を行います。例えば、VQAシステムに画像を見せて「テーブルの上にカップはありますか？」と尋ねた場合、システムは物体を認識するだけでなく、それらの関係性も理解しなければなりません。シーン内でカップが実際にテーブルの上に置かれているかどうかを判定する必要があるのです。

最近の研究では、ニューロシンボリックAIがニューラル知覚とシンボリック推論を統合することで、どのようにVQAを強化できるかが実証されました。提案されたシステムでは、まずニューラルネットワークが画像を分析して、色、形、サイズといった物体の属性を認識します。

その後、シンボリック推論コンポーネントが論理ルールを適用し、これらの物体が互いにどのような関係にあるかを解釈して質問に答えます。「シーンの中に灰色の円柱はいくつありますか？」と聞かれた場合、ニューラル部分がすべての円柱とその色を特定し、シンボリック部分が基準に基づいてそれらをフィルタリングし、正しい数をカウントします。

図4. 抽象的な知識と論理が必要なVQAシナリオの例。(出典)

このような研究は、ニューロシンボリックVQAが単に回答を提供する以上のことができることを示しています。モデルが結論に至った手順を示すことができるため、説明可能なAIをサポートします。これによって、システムは予測を行うとともに、その推論を人間が理解できる形で正当化できるようになります。

Link to this sectionニューロシンボリックAIの長所と短所#

ニューロシンボリックAIを使用する主な利点は以下の通りです。

• より強力な推論能力： 純粋なディープラーニングモデルとは異なり、ニューロシンボリックAIは、マルチステップの推論、計画、ルールの遵守、およびシンボリックAIが伝統的に得意とする構造化された知識領域を扱うタスクを実行できます。
• 適応性： これらのシステムは、学習時よりも論理的に推論できるため、新しいタスクや未経験のタスクに対しても優れたパフォーマンスを発揮します。単にデータを暗記するのではなく、関係性やパターンを理解しているためです。
• ノイズや曖昧さに対する堅牢性： 論理的な制約は、データにノイズが含まれていたり不完全であったり曖昧であったりする場合にエラーを防ぐ助けとなります。推論レイヤーは、ニューラル予測を誘導または修正するルールを強制できます。

その可能性にもかかわらず、ニューロシンボリックAIはまだ発展途上であり、実用上の課題も伴います。以下にその主な制限を挙げます。

• 複雑な統合： このハイブリッドフレームワークは高い解釈可能性を提供しますが、知覚と推論を融合させるアルゴリズムの設計は依然として困難です。
• スケーラビリティ： 大規模なナレッジグラフや複雑なルールセットを扱う際、シンボリック推論は低速になったり、計算コストが高くなったりすることがあります。これにより、自動運転、ビデオ処理、大規模な知識推論といったリアルタイムアプリケーションでの効率的なデプロイがより困難になる可能性があります。
• 推論の堅牢性： シンボリックルールが厳格すぎると、曖昧な状況や予測不可能な現実のシナリオにおいてシステムが苦戦する可能性があります。柔軟な学習と信頼性の高い推論のバランスをとることは、現在進行中の課題です。

Link to this section重要なポイント#

ニューロシンボリックAIは、世界を認識するだけでなく、それについて推論し、意思決定を説明できるAIシステムを構築するための重要なステップを表しています。データから学習したパターンに主に依存する従来のディープラーニングシステムとは異なり、ニューロシンボリックAIは統計的な学習と構造化された論理および知識を組み合わせます。これはディープラーニングを置き換えるのではなく、その上に構築されるものであり、人間のように理解し推論できるAIの開発へと一歩近づけてくれます。

私たちのコミュニティに参加し、GitHubリポジトリを探索してください。当社のソリューションページをチェックして、農業におけるAIやヘルスケアにおけるコンピュータビジョンのさまざまな応用例を発見してください。ライセンスオプションをご確認いただき、ビジョンAIプロジェクトの構築を始めましょう！