Strong AI

Starke KI hat zwei Bedeutungen. In der Philosophie des Geistes bezeichnet sie John Searles Begriff für die These, dass ein entsprechend programmierter Computer tatsächlich einen Geist hätte und verstehen würde, was er verarbeitet. Searle wollte diese These mit seinem Argument des chinesischen Zimmers aus dem Jahr 1980 widerlegen. Im heutigen technischen Sprachgebrauch ist starke KI ein Synonym für künstliche allgemeine Intelligenz (AGI): ein hypothetisches System, das Menschen bei praktisch allen kognitiven Aufgaben ebenbürtig ist. Der Gegenbegriff schwache KI bezeichnet heute meist die enge, auf bestimmte Aufgaben ausgerichtete künstliche Intelligenz (AI), die derzeit eingesetzt wird. Kein existierendes System gilt in einer der beiden Bedeutungen als starke KI.

Searles Hypothese der starken KI#

Searle führte beide Begriffe in „Minds, Brains, and Programs“ ein, veröffentlicht in Behavioral and Brain Sciences. Schwache KI bedeutet in seiner Verwendung, dass Computer leistungsstarke Werkzeuge zur Simulation und Erforschung des Geistes sind. Starke KI geht weiter: „Der entsprechend programmierte Computer ist tatsächlich ein Geist, in dem Sinne, dass man von Computern mit den richtigen Programmen buchstäblich sagen kann, dass sie verstehen und andere kognitive Zustände haben.“ Die Hypothese folgt aus dem Computationalismus, der Auffassung, dass Denken Berechnung ist. Demnach würde jede Maschine, die das richtige Programm ausführt, denken – unabhängig davon, woraus sie besteht.

Das Argument des chinesischen Zimmers#

Searles Argument des chinesischen Zimmers stellt sich eine Person vor, die kein Chinesisch spricht und in einem Raum mit einem auf Englisch verfassten Regelbuch eingeschlossen ist. Durch einen Schlitz kommen Fragen auf Chinesisch herein. Die Person gleicht die Schriftzeichen mit den Regeln ab und schreibt die dort angegebenen Zeichen ab. Die Antworten überzeugen die Menschen außerhalb des Raums davon, dass jemand darin Chinesisch versteht. Die Person versteht jedoch nichts. Searle argumentierte, dass sich ein Computer, der ein Programm ausführt, in derselben Lage befindet: Er manipuliert Symbole anhand ihrer Form, und Syntax allein reicht nicht aus, um Bedeutung zu erzeugen. Kritiker brachten Einwände vor, die Searle anschließend widerlegte:

• Einwand des Systems: Die Person ist nur ein Teil eines Systems, zu dem auch das Regelbuch und das Notizpapier gehören, und das gesamte System versteht. Searle entgegnete, er könne sich die Regeln einprägen, alles im Kopf erledigen und dennoch kein Chinesisch verstehen.
• Einwand des Roboters: Das Programm wird in einen Roboter mit Kameras und Motoren eingebaut, damit seine Symbole mit Dingen in der Welt verknüpft sind. Searle entgegnete, dass die Sensordaten das Programm lediglich als weitere Symbole erreichen, die es manipuliert. Ein Roboter, dessen Kamerabild von einem Ultralytics YOLO26-Detektor verarbeitet wird, erhält beim Auftauchen einer Person einen Klassenindex von 0, einen Konfidenzwert und Begrenzungsrahmenkoordinaten. Nach Searles Auffassung sind das zusätzliche Daten, aber kein Verständnis. Stevan Harnad formulierte die zugrunde liegende Frage später als das Problem der Symbolverankerung: Wie können Symbole durch die eigene Wahrnehmung und das Handeln eines Systems in der Welt Bedeutung erlangen?
• Einwand des Gehirnsimulators: Das Programm simuliert das Feuern jedes einzelnen Neurons im Gehirn einer chinesischsprachigen Person. Searle entgegnete mit dem Beispiel eines Mannes, der ein riesiges System aus Wasserleitungen und Ventilen bedient, das diese neuronalen Signale nachbildet. Das System würde nicht mehr verstehen als der Mann, denn eine Simulation eines Gehirns ist kein Gehirn.
• Einwand anderer Geister: Menschen schließen nur aus dem Verhalten anderer auf deren Verständnis. Dieselben Belege sollten daher auch für Computer zählen. Searle entgegnete, dass es um die Frage gehe, was Verstehen ist, und nicht darum, wie wir erkennen, dass jemand versteht.

Starke KI im Vergleich zu AGI, dem Turing-Test und Bewusstsein#

• AGI: Eine Frage der Fähigkeiten, gemessen daran, was ein System leisten kann. Searles starke KI betrifft das innere Verständnis. Seiner Ansicht nach könnte eine Maschine alle Verhaltenstests bestehen und trotzdem nichts verstehen. Zukunftsforscher wie Ray Kurzweil verwenden „starke KI“ als Bezeichnung für eine AGI auf menschlichem Niveau. Diese Bedeutung ist heute in den meisten technischen Texten gebräuchlich, auch bei Diskussionen über mögliche Anwendungen und Herausforderungen starker KI.
• Turing-Test: Alan Turing schlug 1950 vor, die Frage „Können Maschinen denken?“ durch ein Imitationsspiel zu ersetzen, bei dem allein die Unterhaltung bewertet wird. Das Argument des chinesischen Zimmers richtet sich genau gegen den Schluss, dass das Bestehen eines solchen Tests echtes Verständnis belegt.
• Bewusstsein: Starke KI im Sinne Searles setzt mentale Zustände voraus, die viele Philosophinnen und Philosophen mit subjektivem Erleben verknüpfen. Ein Bericht aus dem Jahr 2023 von 19 Forschenden prüfte KI-Systeme anhand von Indikatoreigenschaften, die aus neurowissenschaftlichen Bewusstseinstheorien abgeleitet wurden. Er kam zu dem Schluss, dass „derzeit keine KI-Systeme bewusst sind“, es aber „keine offensichtlichen technischen Hindernisse“ für die Entwicklung von Systemen gibt, die diese Indikatoren erfüllen.

Starke KI und Sprachmodelle#

Große Sprachmodelle (LLMs) haben die Debatte neu entfacht, denn sie unterhalten sich flüssig auf Chinesisch und vielen anderen Sprachen – ähnlich wie die Person im Zimmer. Emily Bender und Alexander Koller argumentierten in einer Arbeit aus dem Jahr 2020, dass ein ausschließlich anhand sprachlicher Form trainiertes System keine Bedeutung erlernen könne. Andere verweisen dagegen auf Belege für interne Weltmodelle. In „Emergent World Representations“ (ICLR 2023) trainierten Forschende ein GPT-Modell ausschließlich mit Folgen zulässiger Othello-Züge. Sie stellten fest, dass sich der aktuelle Spielstand mithilfe von Probes aus den Aktivierungen auslesen ließ, und zeigten, dass eine Bearbeitung dieses internen Spielstands die vom Modell vorhergesagten Züge veränderte.