Eine Einführung in das aufstrebende Feld der neuro-symbolischen KI

Heutzutage werden dank des rasanten Wachstums von artificial intelligence (AI) und der steigenden Verfügbarkeit von Rechenleistung fortschrittliche AI-Modelle schneller als je zuvor veröffentlicht. Tatsächlich treibt der AI-Bereich in vielen Branchen bedeutende Innovationen voran.

Im Gesundheitswesen beispielsweise werden KI-Systeme eingesetzt, um bei Aufgaben wie der Analyse medizinischer Bilder zur Früherkennung zu helfen. Doch wie jede Technologie hat auch die KI ihre Grenzen.

Ein großes Anliegen ist die Transparenz. Ein Objekterkennungsmodell kann beispielsweise einen Tumor in einem MRT-Gehirnscan genau lokalisieren, aber es kann schwierig sein zu verstehen, wie das Modell zu dieser Schlussfolgerung gelangt ist. Dieser Mangel an Erklärbarkeit macht es für Ärzte und Forscher schwieriger, KI-Ergebnissen voll und ganz zu vertrauen oder sie zu validieren.

Genau deshalb wächst das Interesse am aufstrebenden Bereich der neuro-symbolischen AI. Neuro-symbolische AI verbindet die Mustererkennungsstärken von deep learning mit dem strukturierten, regelbasierten Schließen aus der symbolic AI. Das Ziel ist es, Systeme zu schaffen, die präzise Vorhersagen treffen, aber auch ihre Argumentation auf eine Weise erklären können, die Menschen verstehen.

In diesem Artikel werden wir untersuchen, wie neuro-symbolische künstliche Intelligenz funktioniert und wie sie Lernen und logisches Denken zusammenbringt, um transparentere, kontextbewusste Systeme zu entwickeln. Legen wir los!

Die zwei Seiten der neuro-symbolischen KI: Lernen und logisches Denken#

Bevor wir in die neuro-symbolische KI eintauchen, werfen wir einen genaueren Blick auf die beiden Teilbereiche, die sie zusammenführt: Deep Learning und symbolische KI.

Deep Learning konzentriert sich auf die Erkennung von Mustern in Daten, während symbolische KI Regeln, Logik oder gesunden Menschenverstand nutzt, um Probleme zu lösen. Jedes hat seine Stärken, aber auch seine Grenzen. Durch die Kombination beider Ansätze schafft die neuro-symbolische KI Systeme, die sowohl aus Daten lernen als auch ihre Entscheidungen klarer begründen können.

Ein Überblick über Deep Learning#

Deep Learning ist ein Zweig des maschinellen Lernens, der künstliche neuronale Netze verwendet, die lose davon inspiriert sind, wie das Gehirn Informationen verarbeitet. Diese Netze lernen, indem sie große Datenmengen analysieren und ihre internen Verbindungen anpassen, um die Leistung zu verbessern.

Dies ermöglicht es ihnen, Muster in Bildern, Tönen und Texten zu erkennen, ohne dass für jede Situation handgeschriebene Regeln erforderlich sind. Aus diesem Grund ist Deep Learning äußerst effektiv für wahrnehmungsorientierte Aufgaben wie Bilderkennung, Sprachverarbeitung und Sprachübersetzung.

Ein gutes Beispiel ist ein computer vision model, das darauf trainiert ist, Objekte in Bildern zu segmentieren. Mit genügend beschrifteten Beispielen kann es lernen, Straßen, Fahrzeuge und Fußgänger in Echtzeit-Verkehrsaufnahmen zu trennen.

Trotz ihrer Genauigkeit haben Deep-Learning-Modelle jedoch oft Schwierigkeiten, klar zu erklären, wie sie zu einem bestimmten Ergebnis gelangt sind. Diese Herausforderung, die gemeinhin als Black-Box-Problem bezeichnet wird, macht es für Anwender schwieriger, die Entscheidungen des Modells zu interpretieren oder zu verifizieren, insbesondere in sensiblen Bereichen wie dem Gesundheitswesen oder dem Finanzwesen. Dies ist von Bedeutung, da verantwortungsvolle KI Transparenz, Vertrauen und die Fähigkeit erfordert, zu verstehen, warum ein Modell eine bestimmte Vorhersage getroffen hat.

Erkundung der symbolischen KI#

Die symbolische AI verfolgt einen strukturierteren Ansatz für Intelligenz und Entscheidungsfindung. Sie repräsentiert Wissen durch Symbole und wendet logische Regeln an, um mit diesem Wissen zu arbeiten – ähnlich wie wir Logik und Sprache nutzen, um Probleme zu lösen. Jeder Schritt im Denkprozess ist definiert, was die Entscheidungen der symbolischen AI transparent und leichter erklärbar macht.

Symbolisches Wissen funktioniert besonders gut bei Aufgaben, die klaren und wohldefinierten Regeln folgen, wie etwa Planung, Terminierung oder die Verwaltung von strukturiertem Wissen. Symbolische KI hat jedoch Schwierigkeiten mit unstrukturierten Daten oder Situationen, die nicht sauber in vordefinierte Kategorien passen.

Ein klassisches Beispiel für symbolische Ansätze in der Praxis sind frühe Schachprogramme. Sie folgten handgefertigten Regeln und festen Strategien, anstatt aus früheren Partien zu lernen oder sich an verschiedene Gegner anzupassen. Infolgedessen war ihr Spielstil eher starr und vorhersehbar.

Abb. 1. Ein Blick auf die Struktur der KI und ihre Teilbereiche. (Bild vom Autor)

Was ist neuro-symbolische KI?#

In den 2010er Jahren, als Deep Learning breiter angenommen wurde, begannen Forscher nach Wegen zu suchen, über einfache Mustererkennung hinauszugehen und stattdessen Beziehungen und Kontext zu verstehen. Diese Verschiebung ermöglichte es KI-Modellen, nicht nur Objekte in einer Szene zu erkennen, wie eine Katze und eine Matte, sondern auch zu interpretieren, wie diese Objekte zueinander in Beziehung stehen, zum Beispiel zu erkennen, dass die Katze auf der Matte sitzt.

Dieser Fortschritt verdeutlichte jedoch auch eine grundlegende Einschränkung. Deep-Learning-Modelle können Muster extrem gut erkennen, kämpfen aber oft damit, ihre Schlussfolgerungen zu erklären oder mit unbekannten Situationen umzugehen. Diese erneute Aufmerksamkeit für logisches Denken führte die Forscher zurück zu einem Feld, das seit den 1980er Jahren existiert: neuro-symbolische KI.

Neuro-symbolische KI integriert Deep Learning und symbolische KI. Sie ermöglicht es Modellen, aus Beispielen zu lernen, genau wie Deep Learning es tut, während sie gleichzeitig Logik und Schlussfolgerungen anwendet, wie es die symbolische KI tut.

Einfach ausgedrückt kann neuro-symbolische KI Informationen erkennen, Kontext verstehen und klarere Erklärungen für ihre Entscheidungen liefern. Dieser Ansatz bringt uns der Entwicklung von KI-Systemen näher, die sich zuverlässiger und menschenähnlicher verhalten.

Abb. 2. Verständnis der neuro-symbolischen KI (Bild vom Autor)

Die Grundlagen der Funktionsweise neuro-symbolischer KI#

Eine neuro-symbolische Architektur vereint Lernen und logisches Denken in einem einzigen Framework. Sie umfasst typischerweise drei Hauptteile: eine neuronale Wahrnehmungsschicht, die Rohdaten interpretiert, eine symbolische Argumentationsschicht, die Logik anwendet, und eine Integrationsschicht, die beide verbindet. Als nächstes schauen wir uns jede Schicht genauer an.

Die neuronale Wahrnehmungsschicht#

Die neuronale Wahrnehmungskomponente verarbeitet unstrukturierte Daten wie Bilder, Videos, Texte oder Audiosignale und wandelt sie in interne Repräsentationen um, mit denen das System arbeiten kann. Sie verwendet normalerweise Deep-Learning-Modelle, um Muster zu erkennen und Objekte oder Merkmale in der Eingabe zu identifizieren. In diesem Stadium erkennt das System, was in den Daten vorhanden ist, aber es denkt noch nicht über Bedeutung, Zusammenhänge oder Kontext nach.

Hier sind einige gängige Arten von Deep-Learning-Modellen, die in dieser Schicht verwendet werden:

• Convolutional neural networks (CNNs): Dies ist ein Typ von neuronalem Netz, das für die Verarbeitung gitterartiger Daten wie Bildern entwickelt wurde. CNNs verwenden Faltungsfilter, um ein Bild zu scannen und Muster wie Kanten, Texturen und Formen zu erkennen. Durch das Stapeln dieser Muster lernen sie, Objekte wie Autos, Früchte und Menschen zu erkennen.
• Transformer: Transformer sind Modelle, die darauf ausgelegt sind, zu verstehen, wie verschiedene Teile einer Eingabe miteinander in Beziehung stehen. Anstatt Informationen strikt in der richtigen Reihenfolge zu lesen, können sie mehrere Teile der Daten gleichzeitig betrachten und entscheiden, welche Teile am wichtigsten sind. Dies hilft ihnen, den Kontext in Text, Bildern oder beidem zu verstehen. Aufgrund dieser Flexibilität bilden Transformer die Kernarchitektur hinter den meisten modernen Sprachmodellen und vielen Vision-Language-Systemen.
• Recurrent neural networks (RNNs): Dieser Modelltyp ist darauf ausgelegt, sequentielle Daten wie Sprache oder Zeitreihensignale zu analysieren. Es behält ein Gedächtnis früherer Eingaben, was bedeutet, dass seine Vorhersagen den Kontext über die Zeit berücksichtigen können.

Letztendlich extrahieren und repräsentieren diese neuronalen Modelle aussagekräftige Merkmale aus Rohdaten. Dieser Output wird dann zum Input für die symbolische Argumentationsschicht, die interpretiert und darüber nachdenkt, was das System erkannt hat.

Die symbolische Argumentationsschicht#

Die symbolische Argumentationsschicht nimmt die von der neuronalen Wahrnehmungsschicht produzierten Informationen entgegen und interpretiert sie mithilfe von Logik. Anstatt nur mit Mustern zu arbeiten, stützt sie sich auf Dinge wie Regeln, Wissensgraphen, Wissensdatenbanken und Ontologien (organisierte Beschreibungen von Konzepten und wie sie miteinander in Beziehung stehen). Diese helfen dem System zu verstehen, wie verschiedene Elemente zusammenpassen und welche Aktionen in einer bestimmten Situation sinnvoll sind.

In einem selbstfahrenden Auto kann die neuronale Wahrnehmungsschicht beispielsweise eine rote Ampel im Kamerabild erkennen. Die symbolische Argumentationsschicht kann dann eine Regel anwenden wie: „Wenn die Ampel rot ist, muss das Fahrzeug anhalten.“ Da das logische Denken auf klaren Regeln basiert, sind die Entscheidungen des Systems leichter zu erklären und zu überprüfen, was besonders in Situationen wichtig ist, in denen Sicherheit und Rechenschaftspflicht eine Rolle spielen.

Die Integrationsschicht#

Die Integrationsschicht verbindet die neuronale Wahrnehmungsschicht und die symbolische Argumentationsschicht und stellt sicher, dass Lernen und logisches Denken zusammenarbeiten. In eine Richtung wandelt sie Outputs von neuronalen Modellen (wie die Erkennung eines Fußgängers) in symbolische Repräsentationen um, die das Objekt und seine Attribute beschreiben.

In die andere Richtung nimmt sie symbolische Regeln (zum Beispiel: „Ein Fahrzeug muss anhalten, wenn sich ein Fußgänger auf einem Zebrastreifen befindet“) und übersetzt sie in Signale, die die neuronalen Modelle leiten. Dies kann das Hervorheben relevanter Bildbereiche, die Beeinflussung der Aufmerksamkeit oder die Formung der Entscheidungswege des Modells beinhalten.

Dieser wechselseitige Austausch bildet eine Rückkopplungsschleife. Die neuronale Seite gewinnt Struktur und Interpretierbarkeit durch symbolische Regeln, während die symbolische Seite effektiver auf Basis realer Daten adaptieren kann. Techniken wie logische neuronale Netzwerke (LNNs) helfen dabei, diese Interaktion zu ermöglichen, indem sie logische Einschränkungen direkt in neuronale Architekturen einbetten.

Durch die Verknüpfung von Wahrnehmung und Logik auf diese Weise kann neuro-symbolische AI Entscheidungen treffen, die sowohl genau als auch leichter zu interpretieren sind. Viele Forscher sehen diesen Ansatz als einen vielversprechenden Schritt hin zu einer zuverlässigeren und auf den Menschen ausgerichteten AI sowie möglicherweise als Grundlage für zukünftige Fortschritte in Richtung artificial general intelligence (AGI).

Anwendungen der neuro-symbolischen KI#

Jetzt, da wir ein besseres Verständnis davon haben, was eine neuro-symbolische KI ist und wie sie funktioniert, werfen wir einen Blick auf einige ihrer realen Anwendungsfälle.

Sicherer fahren: Von der Erkennung von Fußgängern zum Verständnis ihres Verhaltens#

Autonome Fahrzeuge müssen ihre Umgebung verstehen, um sicher operieren zu können. Sie verwenden Technologien wie Computer Vision, um Fußgänger, Fahrzeuge, Fahrbahnmarkierungen und Verkehrsschilder zu erkennen.

Während Deep-Learning-Modelle diese Objekte präzise identifizieren können, verstehen sie nicht immer, was diese Objekte im Kontext bedeuten oder wie sie in einer realen Situation zueinander in Beziehung stehen. Zum Beispiel könnte ein neuronales Modell einen Fußgänger auf einem Zebrastreifen erkennen, aber nicht sagen können, ob er gerade die Straße überqueren will oder nur dort steht und wartet.

Neuro-symbolische AI versucht, diese Lücke zu schließen, indem sie es selbstfahrenden Fahrzeugen ermöglicht, visuelle Erkennung mit logischem Schließen zu kombinieren, sodass sie Situationen interpretieren und nicht nur Objekte identifizieren können. Jüngste AI-Forschungen haben gezeigt, dass Systeme, die neuronale Wahrnehmung mit symbolischen Regeln kombinieren, die pedestrian behavior prediction verbessern können.

In diesen Systemen analysiert die neuronale Komponente visuelle Hinweise wie die Körperhaltung, Bewegung und Position eines Fußgängers. Die symbolische Komponente wendet dann logische Regeln an und berücksichtigt Faktoren wie die Nähe des Fußgängers zum Zebrastreifen oder das aktuelle Signal der Ampel.

Durch die Kombination dieser beiden Perspektiven kann das neuro-symbolische System mehr tun, als einfach nur einen Fußgänger zu erkennen. Es kann eine vernünftige Vorhersage darüber treffen, ob der Fußgänger wahrscheinlich die Straße überqueren wird, und es kann erklären, warum es diese Entscheidung getroffen hat. Dies führt zu sicherem und transparenterem Verhalten bei autonomen Fahrzeugen.

Abb. 3: Vorhersagen basierend auf beobachtetem Fußgängerverhalten mit neuro-symbolischer AI treffen. (Quelle)

Logische Interpretation bei der Beantwortung visueller Fragen (Visual Question Answering)#

Eine weitere wichtige Anwendung der neuro-symbolischen AI ist das visual question answering (VQA). VQA-Systeme sind darauf ausgelegt, Fragen zu Bildern zu beantworten.

Sie führen große Sprachmodelle (LLMs) und visuelle Modelle zusammen, um multimodale Argumentation durchzuführen, wobei das, was das System sieht, mit dem kombiniert wird, was es versteht. Wenn einem VQA-System beispielsweise ein Bild gezeigt wird und die Frage gestellt wird: „Steht die Tasse auf dem Tisch?“, muss es die Objekte erkennen, aber auch die Beziehung zwischen ihnen verstehen. Es muss bestimmen, ob sich die Tasse tatsächlich auf dem Tisch in der Szene befindet.

Eine aktuelle Studie hat demonstriert, wie neuro-symbolische KI VQA verbessern kann, indem sie neuronale Wahrnehmung mit symbolischer Logik integriert. Im vorgeschlagenen System analysiert das neuronale Netzwerk zuerst das Bild, um Objekte und ihre Attribute wie Farbe, Form oder Größe zu erkennen.

Die symbolische Argumentationskomponente wendet dann logische Regeln an, um zu interpretieren, wie diese Objekte zueinander in Beziehung stehen und um die Frage zu beantworten. Wenn gefragt wird: „Wie viele graue Zylinder sind in der Szene?“, identifiziert der neuronale Teil alle Zylinder und deren Farben, und der symbolische Teil filtert sie basierend auf den Kriterien und zählt die richtigen.

Abb. 4: Beispiele für VQA-Szenarien, in denen abstraktes Wissen und Logik erforderlich sind. (Quelle)

Solche Forschungen zeigen, wie neuro-symbolisches VQA über die bloße Bereitstellung von Antworten hinausgehen kann. Da das Modell die Schritte aufzeigen kann, die es zu einem Schluss geführt haben, unterstützt es die explainable AI, bei der Systeme Vorhersagen treffen und ihre Argumentation auf eine für Menschen verständliche Weise rechtfertigen.

Vor- und Nachteile der neuro-symbolischen KI#

Hier sind einige der Hauptvorteile der Verwendung neuro-symbolischer KI:

• Stärkere Argumentationsfähigkeiten: Im Gegensatz zu reinen Deep-Learning-Modellen kann neuro-symbolische KI Aufgaben erfüllen, die mehrstufiges logisches Denken, Planung, Befolgen von Regeln und den Umgang mit strukturierten Wissensbereichen erfordern, in denen symbolische KI traditionell glänzt.
• Anpassungsfähigkeit: Diese Systeme funktionieren gut bei neuen oder unbekannten Aufgaben, da sie über das hinaus, worauf sie trainiert wurden, logisch schlussfolgern können. Anstatt nur Daten auswendig zu lernen, verstehen sie Beziehungen und Muster.
• Robustheit gegenüber Rauschen und Mehrdeutigkeit: Logische Einschränkungen können helfen, Fehler zu verhindern, wenn Daten verrauscht, unvollständig oder mehrdeutig sind. Die Argumentationsschicht kann Regeln durchsetzen, die die neuronalen Vorhersagen leiten oder korrigieren.

Trotz ihres Potenzials befindet sich die neuro-symbolische KI noch in der Entwicklung und bringt gewisse praktische Herausforderungen mit sich. Hier sind einige ihrer wichtigsten Einschränkungen:

• Komplexe Integration: Während dieses hybride Framework eine starke Interpretierbarkeit bietet, bleibt das Design von Algorithmen, die Wahrnehmung und Argumentation verschmelzen, eine Herausforderung.
• Skalierbarkeit: Symbolisches Denken kann langsam oder rechenintensiv werden, wenn man mit großen Wissensgraphen oder komplexen Regelsätzen arbeitet. Dies kann Echtzeitanwendungen wie autonomes Fahren, Videoverarbeitung oder großflächiges Wissensschließen schwieriger effizient umsetzbar machen.
• Robustheit der Argumentation: Wenn symbolische Regeln zu starr sind, könnten Systeme in mehrdeutigen oder unvorhersehbaren realen Szenarien Schwierigkeiten haben. Die Balance zwischen flexiblem Lernen und zuverlässigem logischem Denken ist nach wie vor eine Herausforderung.

Wichtige Erkenntnisse#

Neuro-symbolische KI stellt einen wichtigen Schritt in Richtung der Entwicklung von KI-Systemen dar, die die Welt nicht nur wahrnehmen, sondern auch über sie nachdenken und ihre Entscheidungen erklären können. Im Gegensatz zu traditionellen Deep-Learning-Systemen, die hauptsächlich auf Mustern basieren, die aus Daten gelernt wurden, kombiniert neuro-symbolische KI statistisches Lernen mit strukturierter Logik und Wissen. Anstatt Deep Learning zu ersetzen, baut sie darauf auf und bringt uns ein Stück näher zur Entwicklung einer KI, die auf eine menschenähnlichere Weise verstehen und logisch denken kann.

Trete unserer community bei und erkunde unser GitHub repository. Sieh dir unsere Lösungsseiten an, um verschiedene Anwendungen von AI in agriculture und computer vision in healthcare zu entdecken. Entdecke unsere licensing options und lege direkt mit der Entwicklung deines Vision-AI-Projekts los!