Eine Einführung in das aufstrebende Feld der neuro-symbolischen KI

Heutzutage werden dank des rasanten Wachstums der künstlichen Intelligenz (KI) und der zunehmenden Verfügbarkeit von Rechenleistung fortschrittliche KI-Modelle schneller als je zuvor veröffentlicht. Tatsächlich treibt der KI-Bereich sinnvolle Innovationen in vielen Branchen voran.

Im Gesundheitswesen beispielsweise werden KI-Systeme eingesetzt, um bei Aufgaben wie der Analyse medizinischer Bilder zur Früherkennung zu helfen. Doch wie jede Technologie hat auch die KI ihre Grenzen.

Ein großes Anliegen ist die Transparenz. Ein Objekterkennungsmodell kann beispielsweise einen Tumor in einem MRT-Gehirnscan genau lokalisieren, aber es kann schwierig sein zu verstehen, wie das Modell zu dieser Schlussfolgerung gelangt ist. Dieser Mangel an Erklärbarkeit macht es für Ärzte und Forscher schwieriger, KI-Ergebnissen voll und ganz zu vertrauen oder sie zu validieren.

Genau deshalb wächst das Interesse an dem aufstrebenden Feld der neuro-symbolischen KI. Neuro-symbolische KI kombiniert die Stärken der Mustererkennung des Deep Learning mit der strukturierten, regelbasierten Logik der symbolischen KI. Das Ziel ist es, Systeme zu schaffen, die präzise Vorhersagen treffen, aber auch ihre Argumentationsweise auf eine für Menschen verständliche Weise erklären können.

In diesem Artikel werden wir untersuchen, wie neuro-symbolische künstliche Intelligenz funktioniert und wie sie Lernen und logisches Denken zusammenbringt, um transparentere, kontextbewusste Systeme zu entwickeln. Legen wir los!

Link to this sectionDie zwei Seiten der neuro-symbolischen KI: Lernen und logisches Denken#

Bevor wir in die neuro-symbolische KI eintauchen, werfen wir einen genaueren Blick auf die beiden Teilbereiche, die sie zusammenführt: Deep Learning und symbolische KI.

Deep Learning konzentriert sich auf die Erkennung von Mustern in Daten, während symbolische KI Regeln, Logik oder gesunden Menschenverstand nutzt, um Probleme zu lösen. Jedes hat seine Stärken, aber auch seine Grenzen. Durch die Kombination beider Ansätze schafft die neuro-symbolische KI Systeme, die sowohl aus Daten lernen als auch ihre Entscheidungen klarer begründen können.

Link to this sectionEin Überblick über Deep Learning#

Deep Learning ist ein Zweig des maschinellen Lernens, der künstliche neuronale Netze verwendet, die lose davon inspiriert sind, wie das Gehirn Informationen verarbeitet. Diese Netze lernen, indem sie große Datenmengen analysieren und ihre internen Verbindungen anpassen, um die Leistung zu verbessern.

Dies ermöglicht es ihnen, Muster in Bildern, Tönen und Texten zu erkennen, ohne dass für jede Situation handgeschriebene Regeln erforderlich sind. Aus diesem Grund ist Deep Learning äußerst effektiv für wahrnehmungsorientierte Aufgaben wie Bilderkennung, Sprachverarbeitung und Sprachübersetzung.

Ein gutes Beispiel ist ein Computer-Vision-Modell, das darauf trainiert wurde, Objekte in Bildern zu segmentieren. Mit genügend gelabelten Beispielen kann es lernen, Straßen, Fahrzeuge und Fußgänger in Echtzeit-Verkehrsaufnahmen zu unterscheiden.

Trotz ihrer Genauigkeit haben Deep-Learning-Modelle jedoch oft Schwierigkeiten, klar zu erklären, wie sie zu einem bestimmten Ergebnis gelangt sind. Diese Herausforderung, die gemeinhin als Black-Box-Problem bezeichnet wird, macht es für Anwender schwieriger, die Entscheidungen des Modells zu interpretieren oder zu verifizieren, insbesondere in sensiblen Bereichen wie dem Gesundheitswesen oder dem Finanzwesen. Dies ist von Bedeutung, da verantwortungsvolle KI Transparenz, Vertrauen und die Fähigkeit erfordert, zu verstehen, warum ein Modell eine bestimmte Vorhersage getroffen hat.

Link to this sectionErkundung der symbolischen KI#

Symbolische KI verfolgt einen strukturierteren Ansatz bei Intelligenz und Entscheidungsfindung. Sie stellt Wissen mithilfe von Symbolen dar und wendet logische Regeln an, um mit diesem Wissen zu arbeiten, ähnlich wie wir logisches Denken und Sprache verwenden, um Probleme zu lösen. Jeder Schritt im logischen Prozess ist definiert, was die Entscheidungen der symbolischen KI transparent und leichter erklärbar macht.

Symbolisches Wissen funktioniert besonders gut bei Aufgaben, die klaren und wohldefinierten Regeln folgen, wie etwa Planung, Terminierung oder die Verwaltung von strukturiertem Wissen. Symbolische KI hat jedoch Schwierigkeiten mit unstrukturierten Daten oder Situationen, die nicht sauber in vordefinierte Kategorien passen.

Ein klassisches Beispiel für symbolische Ansätze in der Praxis sind frühe Schachprogramme. Sie folgten handgefertigten Regeln und festen Strategien, anstatt aus früheren Partien zu lernen oder sich an verschiedene Gegner anzupassen. Infolgedessen war ihr Spielstil eher starr und vorhersehbar.

Abb. 1. Ein Blick auf die Struktur der KI und ihre Teilbereiche. (Bild vom Autor)

Link to this sectionWas ist neuro-symbolische KI?#

In den 2010er Jahren, als Deep Learning breiter angenommen wurde, begannen Forscher nach Wegen zu suchen, über einfache Mustererkennung hinauszugehen und stattdessen Beziehungen und Kontext zu verstehen. Diese Verschiebung ermöglichte es KI-Modellen, nicht nur Objekte in einer Szene zu erkennen, wie eine Katze und eine Matte, sondern auch zu interpretieren, wie diese Objekte zueinander in Beziehung stehen, zum Beispiel zu erkennen, dass die Katze auf der Matte sitzt.

Dieser Fortschritt verdeutlichte jedoch auch eine grundlegende Einschränkung. Deep-Learning-Modelle können Muster extrem gut erkennen, kämpfen aber oft damit, ihre Schlussfolgerungen zu erklären oder mit unbekannten Situationen umzugehen. Diese erneute Aufmerksamkeit für logisches Denken führte die Forscher zurück zu einem Feld, das seit den 1980er Jahren existiert: neuro-symbolische KI.

Neuro-symbolische KI integriert Deep Learning und symbolische KI. Sie ermöglicht es Modellen, aus Beispielen zu lernen, genau wie Deep Learning es tut, während sie gleichzeitig Logik und Schlussfolgerungen anwendet, wie es die symbolische KI tut.

Einfach ausgedrückt kann neuro-symbolische KI Informationen erkennen, Kontext verstehen und klarere Erklärungen für ihre Entscheidungen liefern. Dieser Ansatz bringt uns der Entwicklung von KI-Systemen näher, die sich zuverlässiger und menschenähnlicher verhalten.

Abb. 2. Verständnis der neuro-symbolischen KI (Bild vom Autor)

Link to this sectionDie Grundlagen der Funktionsweise neuro-symbolischer KI#

Eine neuro-symbolische Architektur vereint Lernen und logisches Denken in einem einzigen Framework. Sie umfasst typischerweise drei Hauptteile: eine neuronale Wahrnehmungsschicht, die Rohdaten interpretiert, eine symbolische Argumentationsschicht, die Logik anwendet, und eine Integrationsschicht, die beide verbindet. Als nächstes schauen wir uns jede Schicht genauer an.

Link to this sectionDie neuronale Wahrnehmungsschicht#

Die neuronale Wahrnehmungskomponente verarbeitet unstrukturierte Daten wie Bilder, Videos, Texte oder Audiosignale und wandelt sie in interne Repräsentationen um, mit denen das System arbeiten kann. Sie verwendet normalerweise Deep-Learning-Modelle, um Muster zu erkennen und Objekte oder Merkmale in der Eingabe zu identifizieren. In diesem Stadium erkennt das System, was in den Daten vorhanden ist, aber es denkt noch nicht über Bedeutung, Zusammenhänge oder Kontext nach.

Hier sind einige gängige Arten von Deep-Learning-Modellen, die in dieser Schicht verwendet werden:

• Convolutional Neural Networks (CNNs): Sie sind eine Art neuronales Netzwerk, das darauf ausgelegt ist, rasterartige Daten wie Bilder zu verarbeiten. CNNs verwenden Faltungsfilter, um ein Bild zu scannen und Muster wie Kanten, Texturen und Formen zu erkennen. Durch das Stapeln dieser Muster lernen sie, Objekte wie Autos, Früchte und Menschen zu erkennen.
• Transformer: Transformer sind Modelle, die darauf ausgelegt sind, zu verstehen, wie verschiedene Teile einer Eingabe miteinander in Beziehung stehen. Anstatt Informationen strikt in der richtigen Reihenfolge zu lesen, können sie mehrere Teile der Daten gleichzeitig betrachten und entscheiden, welche Teile am wichtigsten sind. Dies hilft ihnen, den Kontext in Text, Bildern oder beidem zu verstehen. Aufgrund dieser Flexibilität bilden Transformer die Kernarchitektur hinter den meisten modernen Sprachmodellen und vielen Vision-Language-Systemen.
• Recurrent Neural Networks (RNNs): Diese Art von Modell ist für die Analyse sequenzieller Daten wie Sprache oder Zeitreihensignale konzipiert. Es speichert frühere Eingaben, was bedeutet, dass seine Vorhersagen den Kontext im Laufe der Zeit berücksichtigen können.

Letztendlich extrahieren und repräsentieren diese neuronalen Modelle aussagekräftige Merkmale aus Rohdaten. Dieser Output wird dann zum Input für die symbolische Argumentationsschicht, die interpretiert und darüber nachdenkt, was das System erkannt hat.

Link to this sectionDie symbolische Argumentationsschicht#

Die symbolische Argumentationsschicht nimmt die von der neuronalen Wahrnehmungsschicht produzierten Informationen entgegen und interpretiert sie mithilfe von Logik. Anstatt nur mit Mustern zu arbeiten, stützt sie sich auf Dinge wie Regeln, Wissensgraphen, Wissensdatenbanken und Ontologien (organisierte Beschreibungen von Konzepten und wie sie miteinander in Beziehung stehen). Diese helfen dem System zu verstehen, wie verschiedene Elemente zusammenpassen und welche Aktionen in einer bestimmten Situation sinnvoll sind.

In einem selbstfahrenden Auto kann die neuronale Wahrnehmungsschicht beispielsweise eine rote Ampel im Kamerabild erkennen. Die symbolische Argumentationsschicht kann dann eine Regel anwenden wie: „Wenn die Ampel rot ist, muss das Fahrzeug anhalten.“ Da das logische Denken auf klaren Regeln basiert, sind die Entscheidungen des Systems leichter zu erklären und zu überprüfen, was besonders in Situationen wichtig ist, in denen Sicherheit und Rechenschaftspflicht eine Rolle spielen.

Link to this sectionDie Integrationsschicht#

Die Integrationsschicht verbindet die neuronale Wahrnehmungsschicht und die symbolische Argumentationsschicht und stellt sicher, dass Lernen und logisches Denken zusammenarbeiten. In eine Richtung wandelt sie Outputs von neuronalen Modellen (wie die Erkennung eines Fußgängers) in symbolische Repräsentationen um, die das Objekt und seine Attribute beschreiben.

In die andere Richtung nimmt sie symbolische Regeln (zum Beispiel: „Ein Fahrzeug muss anhalten, wenn sich ein Fußgänger auf einem Zebrastreifen befindet“) und übersetzt sie in Signale, die die neuronalen Modelle leiten. Dies kann das Hervorheben relevanter Bildbereiche, die Beeinflussung der Aufmerksamkeit oder die Formung der Entscheidungswege des Modells beinhalten.

Dieser wechselseitige Austausch bildet eine Rückkopplungsschleife. Die neuronale Seite gewinnt Struktur und Interpretierbarkeit durch symbolische Regeln, während die symbolische Seite effektiver auf Basis realer Daten adaptieren kann. Techniken wie logische neuronale Netzwerke (LNNs) helfen dabei, diese Interaktion zu ermöglichen, indem sie logische Einschränkungen direkt in neuronale Architekturen einbetten.

Indem Wahrnehmung und logisches Denken auf diese Weise verknüpft werden, kann neuro-symbolische KI Entscheidungen treffen, die sowohl präzise als auch leichter zu interpretieren sind. Viele Forscher sehen diesen Ansatz als einen vielversprechenden Schritt in Richtung zuverlässigerer und auf den Menschen ausgerichteter KI und potenziell als Grundlage für zukünftige Fortschritte in Richtung künstlicher allgemeiner Intelligenz (AGI).

Link to this sectionAnwendungen der neuro-symbolischen KI#

Jetzt, da wir ein besseres Verständnis davon haben, was eine neuro-symbolische KI ist und wie sie funktioniert, werfen wir einen Blick auf einige ihrer realen Anwendungsfälle.

Link to this sectionSicherer fahren: Von der Erkennung von Fußgängern zum Verständnis ihres Verhaltens#

Autonome Fahrzeuge müssen ihre Umgebung verstehen, um sicher operieren zu können. Sie verwenden Technologien wie Computer Vision, um Fußgänger, Fahrzeuge, Fahrbahnmarkierungen und Verkehrsschilder zu erkennen.

Während Deep-Learning-Modelle diese Objekte präzise identifizieren können, verstehen sie nicht immer, was diese Objekte im Kontext bedeuten oder wie sie in einer realen Situation zueinander in Beziehung stehen. Zum Beispiel könnte ein neuronales Modell einen Fußgänger auf einem Zebrastreifen erkennen, aber nicht sagen können, ob er gerade die Straße überqueren will oder nur dort steht und wartet.

Neuro-symbolische KI versucht, diese Lücke zu schließen, indem sie selbstfahrenden Fahrzeugen ermöglicht, visuelle Erkennung mit logischem Denken zu kombinieren, sodass sie Situationen interpretieren können, anstatt nur Objekte zu identifizieren. Aktuelle KI-Forschung hat gezeigt, dass Systeme, die neuronale Wahrnehmung mit symbolischen Regeln kombinieren, die Vorhersage des Fußgängerverhaltens verbessern können.

In diesen Systemen analysiert die neuronale Komponente visuelle Hinweise wie die Körperhaltung, Bewegung und Position eines Fußgängers. Die symbolische Komponente wendet dann logische Regeln an und berücksichtigt Faktoren wie die Nähe des Fußgängers zum Zebrastreifen oder das aktuelle Signal der Ampel.

Durch die Kombination dieser beiden Perspektiven kann das neuro-symbolische System mehr tun, als einfach nur einen Fußgänger zu erkennen. Es kann eine vernünftige Vorhersage darüber treffen, ob der Fußgänger wahrscheinlich die Straße überqueren wird, und es kann erklären, warum es diese Entscheidung getroffen hat. Dies führt zu sicherem und transparenterem Verhalten bei autonomen Fahrzeugen.

Abb. 3. Vorhersagen basierend auf beobachtetem Fußgängerverhalten mittels neuro-symbolischer KI. (Quelle)

Link to this sectionLogische Interpretation bei der Beantwortung visueller Fragen (Visual Question Answering)#

Eine weitere wichtige Anwendung der neuro-symbolischen KI ist die Beantwortung visueller Fragen (VQA). VQA-Systeme sind darauf ausgelegt, Fragen zu Bildern zu beantworten.

Sie führen große Sprachmodelle (LLMs) und visuelle Modelle zusammen, um multimodale Argumentation durchzuführen, wobei das, was das System sieht, mit dem kombiniert wird, was es versteht. Wenn einem VQA-System beispielsweise ein Bild gezeigt wird und die Frage gestellt wird: „Steht die Tasse auf dem Tisch?“, muss es die Objekte erkennen, aber auch die Beziehung zwischen ihnen verstehen. Es muss bestimmen, ob sich die Tasse tatsächlich auf dem Tisch in der Szene befindet.

Eine aktuelle Studie hat demonstriert, wie neuro-symbolische KI VQA verbessern kann, indem sie neuronale Wahrnehmung mit symbolischer Logik integriert. Im vorgeschlagenen System analysiert das neuronale Netzwerk zuerst das Bild, um Objekte und ihre Attribute wie Farbe, Form oder Größe zu erkennen.

Die symbolische Argumentationskomponente wendet dann logische Regeln an, um zu interpretieren, wie diese Objekte zueinander in Beziehung stehen und um die Frage zu beantworten. Wenn gefragt wird: „Wie viele graue Zylinder sind in der Szene?“, identifiziert der neuronale Teil alle Zylinder und deren Farben, und der symbolische Teil filtert sie basierend auf den Kriterien und zählt die richtigen.

Abb. 4. Beispiele für VQA-Szenarien, in denen abstraktes Wissen und Logik erforderlich sind. (Quelle)

Solche Forschung zeigt, wie neuro-symbolische VQA über das bloße Bereitstellen von Antworten hinausgehen kann. Da das Modell die Schritte aufzeigen kann, die zu einer Schlussfolgerung geführt haben, unterstützt es erklärbare KI, bei der Systeme Vorhersagen treffen und ihre Argumentation auf eine Weise rechtfertigen, die Menschen verstehen können.

Link to this sectionVor- und Nachteile der neuro-symbolischen KI#

Hier sind einige der Hauptvorteile der Verwendung neuro-symbolischer KI:

• Stärkere Argumentationsfähigkeiten: Im Gegensatz zu reinen Deep-Learning-Modellen kann neuro-symbolische KI Aufgaben erfüllen, die mehrstufiges logisches Denken, Planung, Befolgen von Regeln und den Umgang mit strukturierten Wissensbereichen erfordern, in denen symbolische KI traditionell glänzt.
• Anpassungsfähigkeit: Diese Systeme funktionieren gut bei neuen oder unbekannten Aufgaben, da sie über das hinaus, worauf sie trainiert wurden, logisch schlussfolgern können. Anstatt nur Daten auswendig zu lernen, verstehen sie Beziehungen und Muster.
• Robustheit gegenüber Rauschen und Mehrdeutigkeit: Logische Einschränkungen können helfen, Fehler zu verhindern, wenn Daten verrauscht, unvollständig oder mehrdeutig sind. Die Argumentationsschicht kann Regeln durchsetzen, die die neuronalen Vorhersagen leiten oder korrigieren.

Trotz ihres Potenzials befindet sich die neuro-symbolische KI noch in der Entwicklung und bringt gewisse praktische Herausforderungen mit sich. Hier sind einige ihrer wichtigsten Einschränkungen:

• Komplexe Integration: Während dieses hybride Framework eine starke Interpretierbarkeit bietet, bleibt das Design von Algorithmen, die Wahrnehmung und Argumentation verschmelzen, eine Herausforderung.
• Skalierbarkeit: Symbolisches Denken kann langsam oder rechenintensiv werden, wenn man mit großen Wissensgraphen oder komplexen Regelsätzen arbeitet. Dies kann Echtzeitanwendungen wie autonomes Fahren, Videoverarbeitung oder großflächiges Wissensschließen schwieriger effizient umsetzbar machen.
• Robustheit der Argumentation: Wenn symbolische Regeln zu starr sind, könnten Systeme in mehrdeutigen oder unvorhersehbaren realen Szenarien Schwierigkeiten haben. Die Balance zwischen flexiblem Lernen und zuverlässigem logischem Denken ist nach wie vor eine Herausforderung.

Link to this sectionWichtige Erkenntnisse#

Neuro-symbolische KI stellt einen wichtigen Schritt in Richtung der Entwicklung von KI-Systemen dar, die die Welt nicht nur wahrnehmen, sondern auch über sie nachdenken und ihre Entscheidungen erklären können. Im Gegensatz zu traditionellen Deep-Learning-Systemen, die hauptsächlich auf Mustern basieren, die aus Daten gelernt wurden, kombiniert neuro-symbolische KI statistisches Lernen mit strukturierter Logik und Wissen. Anstatt Deep Learning zu ersetzen, baut sie darauf auf und bringt uns ein Stück näher zur Entwicklung einer KI, die auf eine menschenähnlichere Weise verstehen und logisch denken kann.

Tritt unserer Community bei und erkunde unser GitHub-Repository. Sieh dir unsere Lösungsseiten an, um verschiedene Anwendungen von KI in der Landwirtschaft und Computer Vision im Gesundheitswesen zu entdecken. Entdecke unsere Lizenzoptionen und lege los mit der Entwicklung deines Vision-KI-Projekts!