Singularity

Die technologische Singularität ist ein hypothetischer Zeitpunkt in der Zukunft, an dem sich künstliche Intelligenz (AI) schneller selbst verbessern kann, als Menschen folgen können. Dadurch würde ein unaufhaltsames Wachstum maschineller Intelligenz einsetzen und die Zivilisation auf eine Weise verändern, die sich von diesem Zeitpunkt aus nicht vorhersagen lässt. Der Name stammt aus der Mathematik und Physik, wo eine Singularität einen Punkt bezeichnet, an dem eine Funktion oder physikalische Theorie versagt, etwa das Zentrum eines Schwarzen Lochs. Bisher hat kein KI-System seine eigene Intelligenz ohne menschliche Anleitung verbessert. Die Singularität bleibt also eine Hypothese, prägt aber die Überlegungen von Forschenden und politischen Entscheidungsträgern zu künstlicher allgemeiner Intelligenz (AGI) und KI-Sicherheit.

Ursprünge der Idee#

• John von Neumann (1950er-Jahre): Der Mathematiker Stanislaw Ulam erinnerte sich an ein Gespräch, in dem von Neumann den beschleunigten technologischen Fortschritt als Annäherung an „eine Art wesentliche Singularität in der Geschichte der Menschheit“ beschrieb, „jenseits derer die menschlichen Angelegenheiten, wie wir sie kennen, nicht weitergehen könnten“.
• I. J. Good (1965): In „Speculations Concerning the First Ultraintelligent Machine“ beschrieb der Statistiker eine „Intelligenzexplosion“, bei der eine Maschine, die intelligenter als jeder Mensch ist, noch bessere Maschinen entwirft. Damit wäre die erste solche Maschine „die letzte Erfindung, die der Mensch je machen muss“.
• Vernor Vinge (1993): Der Mathematiker und Science-Fiction-Autor machte den Begriff mit „The Coming Technological Singularity“ bekannt, einem Beitrag für ein NASA-Symposium, der mit den Worten begann: „In dreißig Jahren werden wir über die technischen Mittel verfügen, übermenschliche Intelligenz zu erschaffen.“
• Ray Kurzweil (2005): In seinem Buch The Singularity Is Near extrapolierte der Zukunftsforscher exponentielle Trends in der Datenverarbeitung und sagte die Singularität für 2045 voraus. Die Fortsetzung von 2024, The Singularity Is Nearer, hält an diesem Datum und an 2029 für KI auf menschlichem Niveau fest.

Wie eine Intelligenzexplosion ablaufen könnte#

Der Hypothese liegt rekursive Selbstverbesserung zugrunde. Heute entwerfen menschliche Ingenieurinnen und Ingenieure Architekturen für neuronale Netze, stellen Trainingsdaten zusammen und schreiben den Trainingscode. Ein System, das diese Forschung selbst betreiben kann, könnte einen leistungsfähigeren Nachfolger entwickeln, der die Forschung besser und schneller durchführen würde, und so weiter. Ob sich diese Schleife beschleunigt oder abflacht, hängt vom Ertrag jedes Zyklus ab: Wenn jeder Zuwachs an Leistungsfähigkeit einen größeren Zuwachs der Forschungsgeschwindigkeit ermöglicht, beschleunigt sich das Wachstum immer weiter, und wenn Rechenleistung, Daten, Energie oder Experimente in der realen Welt zu Engpässen werden, verlangsamt sich das Wachstum und pendelt sich auf einem Plateau ein.

Forschende bezeichnen die Geschwindigkeit des Übergangs als Take-off. Bei einem schnellen oder harten Take-off würde sich KI innerhalb von Stunden oder Tagen von menschlichem Niveau zu weit übermenschlicher Intelligenz entwickeln. Es bliebe keine Zeit, Fehler zu korrigieren. Ein langsamer oder weicher Take-off würde sich dagegen über Jahre oder Jahrzehnte erstrecken. Die in Deep Learning beobachteten Skalierungsgesetze beschreiben stetige Zuwächse gemäß Potenzgesetzen bei mehr Rechenleistung, Daten und Parametern. Fortschritte, die allein durch Skalierung entstehen, verlaufen daher im Einklang mit dem Ausbau der Hardware und den Investitionen.

Singularität, AGI und Superintelligenz im Vergleich#

• AGI: Eine Fähigkeitsstufe: ein System, das Menschen bei praktisch allen kognitiven Aufgaben ebenbürtig ist. AGI könnte auch ohne Singularität existieren, wenn die Selbstverbesserung langsam oder begrenzt verläuft.
• Künstliche Superintelligenz (ASI): Eine Fähigkeitsstufe oberhalb von AGI. Der Philosoph Nick Bostrom definiert Superintelligenz als einen Intellekt, der die kognitive Leistungsfähigkeit des Menschen in nahezu allen relevanten Bereichen deutlich übertrifft.
• Singularität: Ein Ereignis, der Übergang, bei dem sich selbstverbessernde KI von AGI-Niveau zu Superintelligenz entwickelt und menschliche Vorhersagen nicht mehr funktionieren.

Systeme, die intelligenter sind als die Menschen, die sie beaufsichtigen, an menschlichen Zielen auszurichten, ist das Forschungsproblem, das als Superalignment bekannt ist.

Vorläufer in der heutigen KI#

KI automatisiert bereits begrenzte Teile ihrer eigenen Entwicklung. Automatisiertes maschinelles Lernen (AutoML) und die Suche nach neuronalen Architekturen (NAS) suchen nach Modelldesigns, die früher von Menschen von Hand ausgewählt wurden. Das Optimieren von Hyperparametern in Ultralytics YOLO ist eine kleine Ausführung derselben Idee: Ein genetischer Algorithmus verändert Trainingseinstellungen wie die Lernrate und die Stärke der Datenerweiterung, trainiert das Modell erneut und behält die am besten bewertete Konfiguration. In größerem Maßstab fand Googles DeepMind-AlphaEvolve, ein Programmieragent, eine schnellere Methode zur Aufteilung einer Matrixmultiplikation. Dadurch wurde ein wichtiger Kernel in Geminis Architektur um 23 % beschleunigt und die Trainingszeit von Gemini um 1 % verkürzt.

Kritik und Debatte#

Skeptiker argumentieren, dass Intelligenz nicht auf dieselbe Weise zunimmt wie die Anzahl der Transistoren in Prozessoren. In „The Singularity Isn't Near“ (2011) schlugen Microsoft-Mitgründer Paul Allen und Mark Greaves eine „Komplexitätsbremse“ vor: Jeder Fortschritt beim Verständnis der Kognition enthüllt weitere Komplexität, sodass sich der Fortschritt verlangsamt. Andere verweisen auf die physikalischen Grenzen von Chips und Energie sowie auf Forschung, die langsame Experimente in der realen Welt erfordert. Forschende, die das Szenario ernst nehmen, plädieren dafür, das Alignment zu lösen, bevor solche Systeme existieren. Im Mai 2023 unterzeichneten Hunderte KI-Wissenschaftler und Führungskräfte eine einzeilige Erklärung, laut der die Minderung des Risikos eines durch KI verursachten Aussterbens neben Pandemien und Atomkrieg globale Priorität haben sollte. Vinges eigene Prognose setzte eine Frist: „Ich wäre überrascht, wenn dieses Ereignis vor 2005 oder nach 2030 eintritt.“