Eine Einführung in das aufstrebende Gebiet der neuro-symbolischen KI

Heutzutage werden dank des schnellen Wachstums der künstlichen Intelligenz (AI) und der zunehmenden Verfügbarkeit von Rechenleistung fortschrittliche KI-Modelle schneller als je zuvor veröffentlicht. Tatsächlich treibt der Bereich der KI bedeutende Innovationen in vielen Branchen voran.

Im Gesundheitswesen werden KI-Systeme beispielsweise eingesetzt, um Aufgaben wie die Analyse medizinischer Bilder zur Früherkennung zu unterstützen. Wie jede Technologie hat jedoch auch KI ihre Grenzen.

Ein großes Problem ist die Transparenz. Ein Objekterkennungsmodell kann beispielsweise einen Tumor in einer MRT-Aufnahme des Gehirns präzise lokalisieren, doch es kann schwierig sein nachzuvollziehen, wie das Modell zu diesem Ergebnis gelangt ist. Diese mangelnde Erklärbarkeit erschwert es Ärzten und Forschern, den Ergebnissen der KI vollständig zu vertrauen oder sie zu überprüfen.

Genau deshalb wächst das Interesse am aufstrebenden Gebiet der neuro-symbolischen KI. Neuro-symbolische KI verbindet die Stärken des Deep Learning bei der Mustererkennung mit dem strukturierten, regelbasierten Schlussfolgern der symbolischen KI. Ziel ist es, Systeme zu entwickeln, die präzise Vorhersagen treffen, ihre Schlussfolgerungen aber auch auf verständliche Weise erklären können.

In diesem Artikel untersuchen wir, wie neuro-symbolische künstliche Intelligenz funktioniert und wie sie Lernen und Schlussfolgern zusammenführt, um transparentere und kontextbewusstere Systeme zu entwickeln. Beginnen wir!

Die beiden Seiten der neuro-symbolischen KI: Lernen und Schlussfolgern#

Bevor wir uns mit der neuro-symbolischen KI beschäftigen, werfen wir einen genaueren Blick auf die beiden Teilgebiete, die sie verbindet: Deep Learning und symbolische KI.

Deep Learning konzentriert sich auf das Erkennen von Mustern in Daten, während symbolische KI Regeln, Logik oder gesunden Menschenverstand verwendet, um Probleme zu lösen. Beide Ansätze haben Stärken, aber auch Grenzen. Durch ihre Kombination entstehen mit neuro-symbolischer KI Systeme, die sowohl aus Daten lernen als auch ihre Entscheidungen klarer erklären können.

Ein Überblick über Deep Learning#

Deep Learning ist ein Teilgebiet des maschinellen Lernens, das künstliche neuronale Netze verwendet, die lose davon inspiriert sind, wie das Gehirn Informationen verarbeitet. Diese Netze lernen, indem sie große Datenmengen analysieren und ihre internen Verbindungen anpassen, um die Leistung zu verbessern.

Dadurch können sie Muster in Bildern, Tönen und Texten erkennen, ohne dass für jede Situation eigens erstellte Regeln erforderlich sind. Deshalb eignet sich Deep Learning besonders gut für wahrnehmungsorientierte Aufgaben wie Bilderkennung, Sprachverarbeitung und Sprachübersetzung.

Ein gutes Beispiel ist ein Computervisionsmodell, das darauf trainiert wurde, Objekte in Bildern zu segmentieren. Mit genügend beschrifteten Beispielen kann es lernen, Straßen, Fahrzeuge und Fußgänger in Verkehrsvideos in Echtzeit voneinander zu unterscheiden.

Trotz ihrer Genauigkeit haben Deep-Learning-Modelle jedoch oft Schwierigkeiten, klar zu erklären, wie sie zu einem bestimmten Ergebnis gelangt sind. Diese Herausforderung, die häufig als Black-Box-Problem bezeichnet wird, erschwert es Benutzern, die Entscheidungen des Modells zu interpretieren oder zu überprüfen, insbesondere in sensiblen Bereichen wie dem Gesundheitswesen oder dem Finanzwesen. Sie ist bedeutsam, weil verantwortungsvolle KI Transparenz, Vertrauen und die Möglichkeit erfordert, zu verstehen, warum ein Modell eine bestimmte Vorhersage getroffen hat.

Die symbolische KI im Überblick#

Symbolische KI verfolgt einen stärker strukturierten Ansatz für Intelligenz und Entscheidungsfindung. Sie stellt Wissen mithilfe von Symbolen dar und wendet logische Regeln auf dieses Wissen an, ähnlich wie wir durch Schlussfolgern und Sprache Probleme lösen. Jeder Schritt des Schlussfolgerungsprozesses ist definiert, wodurch die Entscheidungen symbolischer KI transparent und leichter erklärbar sind.

Symbolisches Wissen eignet sich besonders gut für Aufgaben, die klaren und eindeutig definierten Regeln folgen, etwa Planung, Terminierung oder die Verwaltung strukturierten Wissens. Symbolische KI hat jedoch Schwierigkeiten mit unstrukturierten Daten oder Situationen, die sich nicht problemlos vordefinierten Kategorien zuordnen lassen.

Ein häufiges Beispiel für den praktischen Einsatz symbolischer Ansätze sind frühe Schachprogramme. Sie folgten von Hand erstellten Regeln und festen Strategien, anstatt aus früheren Partien zu lernen oder sich an verschiedene Gegner anzupassen. Daher war ihr Spiel meist starr und vorhersehbar.

Abb. 1. Ein Blick auf die Struktur der KI und ihre Teilgebiete. (Bild des Autors)

Was ist neuro-symbolische KI?#

In den 2010er-Jahren begannen Forscher, als Deep Learning zunehmend eingesetzt wurde, nach Möglichkeiten zu suchen, über die einfache Mustererkennung hinauszugehen und Beziehungen sowie Kontext zu verstehen. Dieser Wandel ermöglichte es KI-Modellen, nicht nur Objekte in einer Szene wie eine Katze und eine Matte zu erkennen, sondern auch ihre Beziehung zu interpretieren, etwa dass die Katze auf der Matte sitzt.

Dieser Fortschritt machte jedoch auch eine zentrale Einschränkung deutlich. Deep-Learning-Modelle können Muster äußerst gut erkennen, haben aber oft Schwierigkeiten, ihre Schlussfolgerungen zu erklären oder mit unbekannten Situationen umzugehen. Das erneute Interesse am Schlussfolgern führte Forscher zurück zu einem Gebiet, das bereits seit den 1980er-Jahren existiert: der neuro-symbolischen KI.

Neuro-symbolische KI verbindet Deep Learning und symbolische KI. Sie ermöglicht es Modellen, ebenso wie Deep Learning aus Beispielen zu lernen und gleichzeitig wie symbolische KI Logik und Schlussfolgerungen anzuwenden.

Kurz gesagt kann neuro-symbolische KI Informationen erkennen, Kontext verstehen und klarere Erklärungen für ihre Entscheidungen liefern. Dieser Ansatz bringt uns der Entwicklung von KI-Systemen näher, die sich zuverlässiger und menschenähnlicher verhalten.

Abb. 2. Neuro-symbolische KI verstehen (Bild des Autors)

Die Grundlagen der Funktionsweise neuro-symbolischer KI#

Eine neuro-symbolische Architektur vereint Lernen und Schlussfolgern in einem einzigen Rahmen. Sie umfasst typischerweise drei Hauptbestandteile: eine neuronale Wahrnehmungsschicht, die Rohdaten interpretiert, eine symbolische Schlussfolgerungsschicht, die Logik anwendet, und eine Integrationsschicht, die beide verbindet. Als Nächstes sehen wir uns jede Schicht genauer an.

Die neuronale Wahrnehmungsschicht#

Die neuronale Wahrnehmungskomponente verarbeitet unstrukturierte Daten wie Bilder, Videos, Texte oder Audiodaten und wandelt sie in interne Repräsentationen um, mit denen das System arbeiten kann. Sie verwendet typischerweise Deep-Learning-Modelle, um Muster zu erkennen und Objekte oder Merkmale in den Eingabedaten zu identifizieren. In dieser Phase erkennt das System, was in den Daten vorhanden ist, schließt aber noch nicht auf deren Bedeutung, Beziehungen oder Kontext.

Hier sind einige gängige Typen von Deep-Learning-Modellen, die in dieser Schicht verwendet werden:

• Faltungsneuronale Netze (CNNs): Sie sind eine Art neuronales Netz, das für die Verarbeitung gitterförmiger Daten wie Bildern entwickelt wurde. CNNs verwenden Faltungsfilter, um ein Bild zu durchsuchen und Muster wie Kanten, Texturen und Formen zu erkennen. Durch die Kombination dieser Muster lernen sie, Objekte wie Autos, Früchte und Menschen zu erkennen.
• Transformer: Transformer sind Modelle, die dafür entwickelt wurden, zu verstehen, wie verschiedene Teile einer Eingabe miteinander zusammenhängen. Statt Informationen strikt in ihrer Reihenfolge zu lesen, können sie mehrere Teile der Daten gleichzeitig betrachten und entscheiden, welche davon am wichtigsten sind. Dadurch können sie den Kontext in Texten, Bildern oder beidem verstehen. Aufgrund dieser Flexibilität bilden Transformer die Kernarchitektur der meisten modernen Sprachmodelle und vieler Bild-Sprach-Systeme.
• Rekurrente neuronale Netze (RNNs): Dieser Modelltyp wurde für die Analyse sequenzieller Daten wie Sprache oder Zeitreihensignalen entwickelt. Er speichert frühere Eingaben, sodass seine Vorhersagen den zeitlichen Kontext berücksichtigen können.

Letztlich extrahieren und repräsentieren diese neuronalen Modelle aussagekräftige Merkmale aus Rohdaten. Diese Ausgabe wird anschließend zur Eingabe für die symbolische Schlussfolgerungsschicht, die interpretiert und schlussfolgert, was das System erkannt hat.

Die symbolische Schlussfolgerungsschicht#

Die symbolische Schlussfolgerungsschicht nimmt die von der neuronalen Wahrnehmungsschicht erzeugten Informationen auf und interpretiert sie mithilfe von Logik. Statt nur mit Mustern zu arbeiten, stützt sie sich auf Dinge wie Regeln, Wissensgraphen, Wissensbasen und Ontologien (strukturierte Beschreibungen von Konzepten und ihren Beziehungen zueinander). Diese helfen dem System zu verstehen, wie verschiedene Elemente zusammenpassen und welche Handlungen in einer bestimmten Situation sinnvoll sind.

In einem selbstfahrenden Auto kann die neuronale Wahrnehmungsschicht beispielsweise eine rote Ampel im Kamerabild erkennen. Die symbolische Schlussfolgerungsschicht kann dann eine Regel anwenden wie: „Wenn die Ampel rot ist, muss das Fahrzeug anhalten.“ Da die Schlussfolgerung auf klaren Regeln beruht, lassen sich die Entscheidungen des Systems leichter erklären und überprüfen, was besonders in Situationen wichtig ist, in denen Sicherheit und Verantwortlichkeit eine Rolle spielen.

Die Integrationsschicht#

Die Integrationsschicht verbindet die neuronale Wahrnehmungsschicht mit der symbolischen Schlussfolgerungsschicht und stellt sicher, dass Lernen und Schlussfolgern zusammenwirken. In die eine Richtung wandelt sie Ausgaben neuronaler Modelle (etwa die Erkennung eines Fußgängers) in symbolische Repräsentationen um, die das Objekt und seine Eigenschaften beschreiben.

In die andere Richtung nimmt sie symbolische Regeln (zum Beispiel „Ein Fahrzeug muss anhalten, wenn sich ein Fußgänger auf einem Zebrastreifen befindet“) und übersetzt sie in Signale, die die neuronalen Modelle steuern. Dies kann das Hervorheben relevanter Bildbereiche, die Beeinflussung der Aufmerksamkeit oder die Steuerung der Entscheidungswege des Modells umfassen.

Dieser Austausch in beide Richtungen bildet eine Rückkopplungsschleife. Die neuronale Seite gewinnt durch symbolische Regeln an Struktur und Interpretierbarkeit, während sich die symbolische Seite effektiver auf der Grundlage realer Daten anpassen kann. Techniken wie logische neuronale Netze (LNNs) unterstützen diese Interaktion, indem sie logische Einschränkungen direkt in neuronale Architekturen einbetten.

Durch die Verknüpfung von Wahrnehmung und Schlussfolgern kann neuro-symbolische KI Entscheidungen erzeugen, die sowohl präzise als auch leichter interpretierbar sind. Viele Forscher betrachten diesen Ansatz als vielversprechenden Schritt hin zu zuverlässigerer und stärker am Menschen ausgerichteter KI und möglicherweise als Grundlage für künftige Fortschritte auf dem Weg zur künstlichen allgemeinen Intelligenz (AGI).

Anwendungen der neuro-symbolischen KI#

Nachdem wir nun besser verstehen, was neuro-symbolische KI ist und wie sie funktioniert, sehen wir uns einige ihrer praktischen Anwendungsfälle an.

Sicherer fahren: Vom Erkennen zum Verstehen von Fußgängern#

Autonome Fahrzeuge müssen ihre Umgebung verstehen, um sicher betrieben werden zu können. Sie nutzen Technologien wie Computervision, um Fußgänger, Fahrzeuge, Fahrbahnmarkierungen und Verkehrsschilder zu erkennen.

Deep-Learning-Modelle können diese Objekte zwar präzise identifizieren, verstehen aber nicht immer, was sie im jeweiligen Kontext bedeuten oder wie sie in einer realen Situation miteinander zusammenhängen. Ein neuronales Modell könnte beispielsweise einen Fußgänger auf einem Zebrastreifen erkennen, aber nicht feststellen, ob er gerade die Straße überqueren will oder nur steht und wartet.

Neuro-symbolische KI versucht, diese Lücke zu schließen, indem sie selbstfahrenden Fahrzeugen ermöglicht, visuelle Erkennung mit logischem Schlussfolgern zu verbinden, sodass sie Situationen interpretieren und nicht nur Objekte identifizieren können. Aktuelle KI-Forschung hat gezeigt, dass Systeme, die neuronale Wahrnehmung mit symbolischen Regeln verbinden, die Vorhersage des Fußgängerverhaltens verbessern können.

In diesen Systemen analysiert die neuronale Komponente visuelle Hinweise wie Körperhaltung, Bewegung und Position eines Fußgängers. Die symbolische Komponente wendet anschließend logische Regeln an und berücksichtigt Faktoren wie die Nähe der Person zu einem Zebrastreifen oder die Anzeige der aktuellen Ampel.

Durch die Kombination dieser beiden Perspektiven kann das neuro-symbolische System mehr leisten, als nur einen Fußgänger zu erkennen. Es kann eine plausible Vorhersage darüber treffen, ob der Fußgänger wahrscheinlich die Straße überqueren wird, und erklären, warum es diese Entscheidung getroffen hat. Dies führt zu sichererem und transparenterem Verhalten autonomer Fahrzeuge.

Abb. 3. Vorhersagen auf Grundlage des beobachteten Fußgängerverhaltens mithilfe neuro-symbolischer KI. (Quelle)

Logische Interpretation bei der visuellen Beantwortung von Fragen#

Eine weitere wichtige Anwendung der neuro-symbolischen KI ist die visuelle Beantwortung von Fragen (VQA). VQA-Systeme wurden entwickelt, um Fragen zu Bildern zu beantworten.

Sie führt große Sprachmodelle (LLMs) und visuelle Modelle zusammen, um multimodales Schlussfolgern zu ermöglichen, indem sie das, was das System sieht, mit dem verbindet, was es versteht. Wenn einem VQA-System beispielsweise ein Bild gezeigt und die Frage „Steht die Tasse auf dem Tisch?“ gestellt wird, muss es die Objekte erkennen und zugleich ihre Beziehung verstehen. Es muss feststellen, ob sich die Tasse in der dargestellten Szene tatsächlich auf dem Tisch befindet.

Eine aktuelle Studie zeigte, wie neuro-symbolische KI VQA durch die Verbindung neuronaler Wahrnehmung mit symbolischem Schlussfolgern verbessern kann. Im vorgeschlagenen System analysiert das neuronale Netz zunächst das Bild, um Objekte und ihre Eigenschaften wie Farbe, Form oder Größe zu erkennen.

Die symbolische Schlussfolgerungskomponente wendet anschließend logische Regeln an, um die Beziehungen zwischen diesen Objekten zu interpretieren und die Frage zu beantworten. Auf die Frage „Wie viele graue Zylinder befinden sich in der Szene?“ identifiziert der neuronale Teil alle Zylinder und ihre Farben, während der symbolische Teil sie anhand der Kriterien filtert und die richtigen zählt.

Abb. 4. Beispiele für VQA-Szenarien, in denen abstraktes Wissen und Logik erforderlich sind. (Quelle)

Diese Forschung zeigt, wie neuro-symbolisches VQA über die reine Bereitstellung von Antworten hinausgehen kann. Da das Modell die Schritte aufzeigen kann, die zu einer Schlussfolgerung geführt haben, unterstützt es erklärbare KI, bei der Systeme Vorhersagen treffen und ihre Schlussfolgerungen auf verständliche Weise begründen.

Vor- und Nachteile der neuro-symbolischen KI#

Hier sind einige der wichtigsten Vorteile der Verwendung neuro-symbolischer KI:

• Stärkere Schlussfolgerungsfähigkeiten: Im Gegensatz zu reinen Deep-Learning-Modellen kann neuro-symbolische KI Aufgaben ausführen, die mehrstufiges Schlussfolgern, Planung, Befolgen von Regeln und den Umgang mit strukturierten Wissensbereichen erfordern, in denen symbolische KI traditionell besonders leistungsfähig ist.
• Anpassungsfähigkeit: Diese Systeme leisten gute Arbeit bei neuen oder unbekannten Aufgaben, da sie logisch über das hinaus schlussfolgern können, worauf sie trainiert wurden. Statt Daten lediglich auswendig zu lernen, verstehen sie Beziehungen und Muster.
• Robustheit gegenüber Rauschen und Mehrdeutigkeit: Logische Einschränkungen können helfen, Fehler zu vermeiden, wenn Daten verrauscht, unvollständig oder mehrdeutig sind. Die Schlussfolgerungsschicht kann Regeln durchsetzen, die neuronale Vorhersagen steuern oder korrigieren.

Trotz ihres Potenzials entwickelt sich neuro-symbolische KI noch weiter und bringt bestimmte praktische Herausforderungen mit sich. Hier sind einige ihrer wichtigsten Einschränkungen:

• Komplexe Integration: Obwohl dieser hybride Rahmen eine hohe Interpretierbarkeit bietet, bleibt die Entwicklung von Algorithmen, die Wahrnehmung und Schlussfolgern verbinden, schwierig.
• Skalierbarkeit: Symbolisches Schlussfolgern kann bei großen Wissensgraphen oder komplexen Regelsätzen langsam oder rechenintensiv werden. Dadurch kann es schwieriger werden, Echtzeitanwendungen wie autonomes Fahren, Videoverarbeitung oder Schlussfolgern über Wissen in großem Maßstab effizient bereitzustellen.
• Robustheit des Schlussfolgerns: Wenn symbolische Regeln zu starr sind, können Systeme in mehrdeutigen oder unvorhersehbaren realen Situationen Schwierigkeiten haben. Das Gleichgewicht zwischen flexiblem Lernen und zuverlässigem Schlussfolgern bleibt eine fortbestehende Herausforderung.

Wichtige Erkenntnisse#

Neuro-symbolische KI stellt einen wichtigen Schritt hin zu KI-Systemen dar, die die Welt nicht nur wahrnehmen, sondern auch über sie schlussfolgern und ihre Entscheidungen erklären können. Im Gegensatz zu herkömmlichen Deep-Learning-Systemen, die sich hauptsächlich auf aus Daten gelernte Muster stützen, verbindet neuro-symbolische KI statistisches Lernen mit strukturierter Logik und Wissen. Statt Deep Learning zu ersetzen, baut sie darauf auf und bringt uns der Entwicklung einer KI näher, die auf menschenähnlichere Weise verstehen und schlussfolgern kann.

Tritt unserer Community bei und erkunde unser GitHub-Repository. Sieh dir unsere Lösungsseiten an, um verschiedene Anwendungen von KI in der Landwirtschaft und Computervision im Gesundheitswesen zu entdecken. Informiere dich über unsere Lizenzoptionen und beginne mit der Entwicklung deines Computervisionsprojekts mit KI!