Eine Einführung in das aufkommende Gebiet der neuro-symbolischen KI

Dank des rasanten Wachstums der künstlichen Intelligenz (AI) und der zunehmenden Verfügbarkeit von Rechenleistung werden heutzutage fortschrittliche KI-Modelle schneller als je zuvor veröffentlicht. Tatsächlich treibt der KI-Bereich bedeutende Innovationen in vielen Branchen voran.

Im Gesundheitswesen werden KI-Systeme beispielsweise eingesetzt, um Aufgaben wie die Analyse medizinischer Bilder zur Früherkennung zu unterstützen. Doch wie jede Technologie hat auch KI ihre Grenzen.

Ein wichtiges Problem ist die Transparenz. So kann ein Objekterkennungsmodell beispielsweise einen Tumor auf einer MRT-Aufnahme des Gehirns genau lokalisieren, doch es ist möglicherweise schwer nachzuvollziehen, wie das Modell zu diesem Ergebnis gekommen ist. Diese mangelnde Erklärbarkeit erschwert es Ärzten und Forschern, den Ergebnissen der KI uneingeschränkt zu vertrauen oder sie zu überprüfen.

Genau deshalb wächst das Interesse am neuen Forschungsgebiet der neuro-symbolischen KI. Neuro-symbolische KI verbindet die Mustererkennungsfähigkeiten des Deep Learning mit dem strukturierten, regelbasierten Schlussfolgern der symbolischen KI. Ziel ist es, Systeme zu schaffen, die genaue Vorhersagen treffen und zugleich ihre Schlussfolgerungen so erklären können, dass Menschen sie verstehen.

In diesem Artikel sehen wir uns an, wie neuro-symbolische künstliche Intelligenz funktioniert und wie sie Lernen und Schlussfolgern vereint, um transparentere Systeme zu entwickeln, die den jeweiligen Kontext berücksichtigen.

Die zwei Seiten der neuro-symbolischen KI: Lernen und Schlussfolgern#

Bevor wir uns mit neuro-symbolischer KI befassen, werfen wir einen genaueren Blick auf die beiden Teilgebiete, die sie zusammenführt: Deep Learning und symbolische KI.

Deep Learning konzentriert sich auf das Erkennen von Mustern in Daten, während symbolische KI Regeln, Logik oder gesunden Menschenverstand nutzt, um Probleme zu durchdenken. Beide Ansätze haben Stärken, aber auch Einschränkungen. Indem sie diese verbindet, schafft neuro-symbolische KI Systeme, die sowohl aus Daten lernen als auch ihre Entscheidungen verständlicher erklären können.

Ein Überblick über Deep Learning#

Deep Learning ist ein Teilgebiet des maschinellen Lernens, das künstliche neuronale Netze verwendet, die lose davon inspiriert sind, wie das Gehirn Informationen verarbeitet. Diese Netze lernen, indem sie große Datenmengen analysieren und ihre internen Verbindungen anpassen, um die Leistung zu verbessern.

Dadurch können sie Muster in Bildern, Tönen und Texten erkennen, ohne dass für jede Situation eigens erstellte Regeln erforderlich sind. Deshalb eignet sich Deep Learning besonders gut für wahrnehmungsbezogene Aufgaben wie Bilderkennung, Sprachverarbeitung und Sprachübersetzung.

Ein gutes Beispiel ist ein Computer-Vision-Modell, das darauf trainiert wurde, Objekte in Bildern zu segmentieren. Mit genügend gekennzeichneten Beispielen kann es lernen, Straßen, Fahrzeuge und Fußgänger in Echtzeitaufnahmen des Verkehrs voneinander zu unterscheiden.

Trotz ihrer Genauigkeit fällt es Deep-Learning-Modellen jedoch oft schwer, klar zu erklären, wie sie zu einem bestimmten Ergebnis gekommen sind. Diese Herausforderung, die häufig als Black-Box-Problem bezeichnet wird, erschwert es Nutzern, die Entscheidungen des Modells zu deuten oder zu überprüfen – insbesondere in sensiblen Bereichen wie dem Gesundheitswesen oder dem Finanzwesen. Das ist bedeutsam, denn verantwortungsvolle KI erfordert Transparenz, Vertrauen und die Möglichkeit nachzuvollziehen, warum ein Modell eine bestimmte Vorhersage getroffen hat.

Ein Blick auf die symbolische KI#

Symbolische KI verfolgt einen stärker strukturierten Ansatz für Intelligenz und Entscheidungsfindung. Sie stellt Wissen mithilfe von Symbolen dar und wendet logische Regeln darauf an – ähnlich wie wir beim Lösen von Problemen Schlussfolgerungen ziehen und Sprache verwenden. Jeder Schritt des Schlussfolgerungsprozesses ist festgelegt, wodurch die Entscheidungen der symbolischen KI transparent und leichter erklärbar sind.

Symbolisches Wissen eignet sich besonders gut für Aufgaben mit klaren, genau definierten Regeln, etwa für die Planung, Terminierung oder Verwaltung strukturierter Informationen. Symbolische KI hat jedoch Schwierigkeiten mit unstrukturierten Daten oder Situationen, die sich nicht eindeutig vordefinierten Kategorien zuordnen lassen.

Ein bekanntes Beispiel für den Einsatz symbolischer Ansätze sind frühe Schachprogramme. Sie folgten von Hand erstellten Regeln und festgelegten Strategien, anstatt aus früheren Partien zu lernen oder sich an verschiedene Gegner anzupassen. Dadurch war ihr Spiel meist starr und vorhersehbar.

Abb. 1. Ein Überblick über den Aufbau der KI und ihre Teilgebiete. (Bild vom Autor)

Was ist neuro-symbolische KI?#

In den 2010er-Jahren, als Deep Learning zunehmend Verbreitung fand, begannen Forscher nach Wegen zu suchen, über die einfache Mustererkennung hinauszugehen und Beziehungen sowie Zusammenhänge zu verstehen. Dadurch konnten KI-Modelle nicht nur Objekte in einer Szene erkennen, etwa eine Katze und eine Matte, sondern auch deren Beziehung deuten, zum Beispiel erkennen, dass die Katze auf der Matte sitzt.

Diese Fortschritte machten jedoch auch eine grundlegende Einschränkung deutlich. Deep-Learning-Modelle können Muster sehr gut erkennen, haben aber oft Schwierigkeiten, ihre Schlussfolgerungen zu erklären oder mit unbekannten Situationen umzugehen. Das neu erwachte Interesse am Schlussfolgern führte die Forscher zu einem Forschungsgebiet zurück, das es seit den 1980er-Jahren gibt: der neuro-symbolischen KI.

Neuro-symbolische KI verbindet Deep Learning und symbolische KI. Sie ermöglicht es Modellen, wie beim Deep Learning aus Beispielen zu lernen und zugleich wie die symbolische KI Logik und Schlussfolgerungen anzuwenden.

Einfach ausgedrückt kann neuro-symbolische KI Informationen erkennen, den Kontext verstehen und ihre Entscheidungen verständlicher erklären. Dieser Ansatz bringt uns der Entwicklung von KI-Systemen näher, die zuverlässiger und menschenähnlicher funktionieren.

Abb. 2. Neuro-symbolische KI verstehen (Bild vom Autor)

Die Grundlagen der Funktionsweise neuro-symbolischer KI#

Eine neuro-symbolische Architektur vereint Lernen und Schlussfolgern in einem einzigen Rahmen. Sie besteht üblicherweise aus drei Hauptkomponenten: einer neuronalen Wahrnehmungsschicht, die Rohdaten interpretiert, einer symbolischen Schlussfolgerungsschicht, die Logik anwendet, und einer Integrationsschicht, die beide verbindet. Im Folgenden sehen wir uns die einzelnen Schichten genauer an.

Die neuronale Wahrnehmungsschicht#

Die neuronale Wahrnehmungskomponente verarbeitet unstrukturierte Daten wie Bilder, Videos, Texte oder Audiodaten und wandelt sie in interne Repräsentationen um, mit denen das System arbeiten kann. Üblicherweise verwendet sie Deep-Learning-Modelle, um Muster zu erkennen und Objekte oder Merkmale in den Eingabedaten zu identifizieren. In dieser Phase erkennt das System, was in den Daten enthalten ist, zieht aber noch keine Schlüsse über Bedeutung, Beziehungen oder Kontext.

Hier sind einige gängige Arten von Deep-Learning-Modellen, die in dieser Schicht zum Einsatz kommen:

• Faltungsneuronale Netze (CNNs): Sie sind eine Art neuronales Netz, das für die Verarbeitung gitterförmiger Daten wie Bilder entwickelt wurde. CNNs verwenden Faltungsfilter, die ein Bild abtasten und Muster wie Kanten, Texturen und Formen erkennen. Indem sie diese Muster kombinieren, lernen sie, Objekte wie Autos, Obst und Menschen zu erkennen.
• Transformer: Transformer sind Modelle, die dafür entwickelt wurden, die Beziehungen zwischen verschiedenen Teilen einer Eingabe zu verstehen. Statt Informationen strikt der Reihe nach zu verarbeiten, können sie mehrere Teile der Daten gleichzeitig betrachten und entscheiden, welche davon besonders wichtig sind. So können sie den Kontext in Texten, Bildern oder beidem erfassen. Dank dieser Flexibilität bilden Transformer die Kernarchitektur der meisten modernen Sprachmodelle und vieler Vision-Language-Systeme.
• Rekurrente neuronale Netze (RNNs): Dieser Modelltyp wurde für die Analyse sequenzieller Daten wie Sprache oder Zeitreihensignalen entwickelt. Er speichert vorherige Eingaben, sodass seine Vorhersagen den zeitlichen Kontext berücksichtigen können.

Letztlich extrahieren diese neuronalen Modelle aussagekräftige Merkmale aus Rohdaten und stellen sie dar. Diese Ausgabe dient anschließend als Eingabe für die symbolische Schlussfolgerungsschicht, die interpretiert und Schlussfolgerungen darüber zieht, was das System erkannt hat.

Die symbolische Schlussfolgerungsebene#

Die symbolische Schlussfolgerungsebene nutzt die von der neuronalen Wahrnehmungsebene erzeugten Informationen und erschließt daraus mithilfe von Logik einen Sinn. Statt sich nur auf Muster zu stützen, greift sie auf Regeln, Wissensgraphen, Wissensdatenbanken und Ontologien (strukturierte Beschreibungen von Konzepten und ihren Beziehungen) zurück. So kann das System verstehen, wie verschiedene Elemente zusammenhängen und welche Handlungen in einer bestimmten Situation sinnvoll sind.

Bei einem selbstfahrenden Auto erkennt die neuronale Wahrnehmungsebene beispielsweise eine rote Ampel im Kamerabild. Die symbolische Schlussfolgerungsebene kann dann eine Regel anwenden, etwa: „Wenn die Ampel rot ist, muss das Fahrzeug anhalten.“ Da die Schlussfolgerung auf klaren Regeln beruht, lassen sich die Entscheidungen des Systems leichter erklären und überprüfen. Das ist besonders wichtig in Situationen, in denen Sicherheit und Rechenschaftspflicht eine Rolle spielen.

Die Integrationsebene#

Die Integrationsebene verbindet die neuronale Wahrnehmungsebene mit der symbolischen Schlussfolgerungsebene und sorgt dafür, dass Lernen und Schlussfolgern zusammenwirken. In eine Richtung wandelt sie Ausgaben neuronaler Modelle (etwa die Erkennung eines Fußgängers) in symbolische Darstellungen um, die das Objekt und seine Merkmale beschreiben.

In die andere Richtung nimmt sie symbolische Regeln (zum Beispiel „Ein Fahrzeug muss anhalten, wenn sich ein Fußgänger auf einem Zebrastreifen befindet“) und übersetzt sie in Signale, die die neuronalen Modelle steuern. Dazu können relevante Bildbereiche hervorgehoben, die Aufmerksamkeit gelenkt oder die Entscheidungswege des Modells beeinflusst werden.

Dieser wechselseitige Austausch bildet eine Rückkopplungsschleife. Die neuronale Seite gewinnt durch symbolische Regeln Struktur und Interpretierbarkeit, während sich die symbolische Seite anhand realer Daten besser anpassen kann. Techniken wie logische neuronale Netze (LNNs) ermöglichen diese Interaktion, indem sie logische Einschränkungen direkt in neuronale Architekturen einbetten.

Durch die Verknüpfung von Wahrnehmung und Schlussfolgern kann neuro-symbolische KI Entscheidungen hervorbringen, die sowohl genau als auch leichter zu interpretieren sind. Viele Forschende sehen diesen Ansatz als vielversprechenden Schritt hin zu zuverlässigerer und stärker am Menschen ausgerichteter KI und möglicherweise als Grundlage für künftige Fortschritte auf dem Weg zur künstlichen allgemeinen Intelligenz (AGI).

Anwendungsbereiche der neuro-symbolischen KI#

Nachdem wir nun besser verstanden haben, was neuro-symbolische KI ist und wie sie funktioniert, sehen wir uns einige praktische Anwendungsfälle an.

Sicherer fahren: Fußgänger erkennen und verstehen#

Autonome Fahrzeuge müssen ihre Umgebung verstehen, um sicher unterwegs zu sein. Sie nutzen Technologien wie Computer Vision, um Fußgänger, Fahrzeuge, Fahrbahnmarkierungen und Verkehrszeichen zu erkennen.

Deep-Learning-Modelle können diese Objekte zwar präzise erkennen, verstehen aber nicht immer, was sie im jeweiligen Zusammenhang bedeuten oder wie sie in einer realen Situation zueinander in Beziehung stehen. Ein neuronales Modell erkennt beispielsweise möglicherweise einen Fußgänger auf einem Zebrastreifen, kann aber nicht feststellen, ob die Person gerade die Straße überqueren will oder nur wartet.

Neuro-symbolische KI soll diese Lücke schließen, indem sie selbstfahrenden Fahrzeugen ermöglicht, visuelle Erkennung mit logischem Schlussfolgern zu verbinden. So können die Fahrzeuge Situationen interpretieren, statt nur Objekte zu erkennen. Aktuelle KI-Forschung hat gezeigt, dass Systeme, die neuronale Wahrnehmung mit symbolischen Regeln kombinieren, die Vorhersage des Fußgängerverhaltens verbessern können.

In diesen Systemen analysiert die neuronale Komponente visuelle Hinweise wie Körperhaltung, Bewegung und Position eines Fußgängers. Anschließend wendet die symbolische Komponente logische Regeln an und berücksichtigt dabei Faktoren wie die Nähe der Person zu einem Zebrastreifen und die Anzeige der aktuellen Ampel.

Durch die Verbindung dieser beiden Perspektiven kann das neuro-symbolische System mehr leisten, als einen Fußgänger lediglich zu erkennen. Es kann fundiert vorhersagen, ob der Fußgänger wahrscheinlich die Straße überqueren wird, und erklären, warum es zu dieser Entscheidung gekommen ist. Das führt zu sichererem und transparenterem Verhalten autonomer Fahrzeuge.

Abb. 3. Vorhersagen auf Grundlage des beobachteten Fußgängerverhaltens mit neuro-symbolischer KI. (Quelle)

Logische Interpretation bei der visuellen Beantwortung von Fragen#

Eine weitere wichtige Anwendung neuro-symbolischer KI ist die visuelle Beantwortung von Fragen (VQA). VQA-Systeme sollen Fragen zu Bildern beantworten.

Dabei werden große Sprachmodelle (LLMs) und visuelle Modelle zusammengeführt, um multimodal Schlussfolgerungen zu ziehen und das Gesehene mit dem Verständnis des Systems zu verbinden. Wird einem VQA-System beispielsweise ein Bild gezeigt und die Frage „Steht die Tasse auf dem Tisch?“ gestellt, muss es die Objekte erkennen und zugleich ihre Beziehung zueinander verstehen. Es muss feststellen, ob sich die Tasse in der Szene tatsächlich auf dem Tisch befindet.

Eine aktuelle Studie hat gezeigt, wie neuro-symbolische KI VQA durch die Verbindung neuronaler Wahrnehmung mit symbolischem Schlussfolgern verbessern kann. Im vorgeschlagenen System analysiert das neuronale Netz zunächst das Bild, um Objekte und ihre Merkmale wie Farbe, Form oder Größe zu erkennen.

Anschließend wendet die symbolische Schlussfolgerungskomponente logische Regeln an, um die Beziehungen zwischen den Objekten zu interpretieren und die Frage zu beantworten. Bei der Frage „Wie viele graue Zylinder sind in der Szene?“ erkennt der neuronale Teil alle Zylinder und ihre Farben. Der symbolische Teil filtert sie anhand der Kriterien und zählt die passenden Zylinder.

Abb. 4. Beispiele für VQA-Szenarien, in denen abstraktes Wissen und Logik erforderlich sind. (Quelle)

Diese Forschung zeigt, wie neuro-symbolische VQA über das bloße Bereitstellen von Antworten hinausgehen kann. Da das Modell die Schritte bis zu einer Schlussfolgerung darlegen kann, unterstützt es erklärbare KI, bei der Systeme Vorhersagen treffen und ihre Schlussfolgerungen auf verständliche Weise begründen.

Vor- und Nachteile neuro-symbolischer KI#

Hier sind einige der wichtigsten Vorteile neuro-symbolischer KI:

• Bessere Schlussfolgerungsfähigkeiten: Im Gegensatz zu reinen Deep-Learning-Modellen kann neuro-symbolische KI Aufgaben bewältigen, die mehrstufiges Schlussfolgern, Planung, das Befolgen von Regeln und den Umgang mit strukturiertem Wissen erfordern – Bereiche, in denen symbolische KI traditionell besonders leistungsfähig ist.
• Anpassungsfähigkeit: Diese Systeme bewähren sich bei neuen oder unbekannten Aufgaben, da sie logisch über das hinaus schlussfolgern können, womit sie trainiert wurden. Statt Daten nur auswendig zu lernen, verstehen sie Beziehungen und Muster.
• Widerstandsfähigkeit gegenüber Rauschen und Mehrdeutigkeit: Logische Einschränkungen können Fehler verhindern, wenn Daten verrauscht, unvollständig oder mehrdeutig sind. Die Schlussfolgerungsebene kann Regeln durchsetzen, die neuronale Vorhersagen steuern oder korrigieren.

Trotz ihres Potenzials entwickelt sich neuro-symbolische KI noch weiter und bringt einige praktische Herausforderungen mit sich. Hier sind einige ihrer wichtigsten Einschränkungen:

• Komplexe Integration: Dieses hybride Konzept ist zwar gut interpretierbar, doch Algorithmen zu entwickeln, die Wahrnehmung und Schlussfolgern miteinander verbinden, bleibt eine Herausforderung.
• Skalierbarkeit: Bei großen Wissensgraphen oder komplexen Regelsätzen kann symbolisches Schlussfolgern langsam oder rechenintensiv werden. Dadurch wird es schwieriger, Echtzeitanwendungen wie autonomes Fahren, Videoverarbeitung oder Schlussfolgerungen aus umfangreichem Wissen effizient einzusetzen.
• Robustheit des Schlussfolgerns: Sind symbolische Regeln zu starr, können Systeme in mehrdeutigen oder unvorhersehbaren Situationen der realen Welt Schwierigkeiten haben. Flexibles Lernen mit zuverlässigem Schlussfolgern in Einklang zu bringen, bleibt eine ungelöste Herausforderung.

Die wichtigsten Erkenntnisse#

Neuro-symbolische KI ist ein wichtiger Schritt hin zu KI-Systemen, die nicht nur die Welt wahrnehmen, sondern auch über sie schlussfolgern und ihre Entscheidungen erklären können. Anders als herkömmliche Deep-Learning-Systeme, die sich hauptsächlich auf aus Daten gelernte Muster stützen, verbindet neuro-symbolische KI statistisches Lernen mit strukturierter Logik und Wissen. Sie ersetzt Deep Learning nicht, sondern baut darauf auf und bringt uns der Entwicklung von KI, die auf menschenähnlichere Weise verstehen und schlussfolgern kann, ein Stück näher.

Tritt unserer Community bei und sieh dir unser GitHub-Repository an. Entdecke auf unseren Lösungsseiten verschiedene Anwendungsbereiche von KI in der Landwirtschaft und Computer Vision im Gesundheitswesen. Informiere dich über unsere Lizenzoptionen und leg mit deinem Computer-Vision-KI-Projekt los!