Konstitutionelle KI soll KI-Modelle an menschlichen Werten ausrichten

Künstliche Intelligenz (AI) wird immer mehr zu einem festen Bestandteil unseres Alltags. Sie wird zunehmend in Werkzeugen eingesetzt, die in Bereichen wie Gesundheitswesen, Personalbeschaffung, Finanzwesen und öffentlicher Sicherheit zum Einsatz kommen. Mit der Verbreitung dieser Systeme werden auch Bedenken hinsichtlich ihrer Ethik und Zuverlässigkeit laut.

KI-Systeme, die ohne Berücksichtigung von Fairness oder Sicherheit entwickelt wurden, können beispielsweise voreingenommene oder unzuverlässige Ergebnisse liefern. Das liegt daran, dass viele Modelle noch keine klare Möglichkeit haben, menschliche Werte abzubilden und mit ihnen in Einklang zu bringen.

Um diese Herausforderungen anzugehen, untersuchen Forschende derzeit einen Ansatz, der als konstitutionelle KI bekannt ist. Einfach gesagt, werden dabei schriftlich festgehaltene Grundsätze in den Trainingsprozess des Modells integriert. Diese Grundsätze helfen dem Modell, sein eigenes Verhalten zu beurteilen, sich weniger auf menschliches Feedback zu stützen und sicherere, leichter verständliche Antworten zu geben.

Bisher wurde dieser Ansatz vor allem bei großen Sprachmodellen (LLMs) eingesetzt. Dieselbe Struktur könnte jedoch auch Computer-Vision-Systemen dabei helfen, bei der Analyse visueller Daten ethische Entscheidungen zu treffen.

In diesem Artikel untersuchen wir, wie konstitutionelle KI funktioniert, sehen uns Beispiele aus der Praxis an und erörtern mögliche Anwendungen in Computer-Vision-Systemen.

Abb. 1. Merkmale konstitutioneller KI. Abbildung des Autors.

Was ist konstitutionelle KI?#

Constitutional AI ist eine Methode zum Trainieren von Modellen. Dabei wird das Verhalten von KI-Modellen durch klare ethische Regeln gesteuert, die als Verhaltenskodex dienen. Statt das Modell selbst ableiten zu lassen, was akzeptabel ist, folgt es einer schriftlich festgelegten Reihe von Prinzipien, die seine Antworten während des Trainings prägen.

Dieses Konzept wurde von Anthropic eingeführt, einem auf KI-Sicherheit spezialisierten Forschungsunternehmen, das die Claude-LLM-Familie entwickelt hat. Die Methode soll KI-Systeme dabei unterstützen, ihre Entscheidungen stärker selbst zu überwachen.

Statt sich ausschließlich auf menschliches Feedback zu stützen, lernt das Modell, seine eigenen Antworten anhand vorab festgelegter Grundsätze zu bewerten und zu verbessern. Dieser Ansatz ähnelt einem Rechtssystem, in dem sich ein Richter vor einem Urteil auf eine Verfassung bezieht.

In diesem Fall ist das Modell zugleich Richter und Lernender: Es nutzt dieselben Regeln, um sein eigenes Verhalten zu überprüfen und zu verbessern. Dieser Prozess stärkt die Ausrichtung von KI-Modellen und unterstützt die Entwicklung sicherer und verantwortungsvoller KI-Systeme.

Wie funktioniert konstitutionelle KI?#

Konstitutionelle KI soll einem KI-Modell beibringen, anhand klarer schriftlicher Regeln sichere und faire Entscheidungen zu treffen. So funktioniert der Prozess im Überblick:

• Verfassung festlegen: Es wird eine schriftliche Liste ethischer Grundsätze erstellt, an die sich das Modell halten soll. Die Verfassung legt fest, was die KI vermeiden und welche Werte sie widerspiegeln soll.
• Mit überwachten Beispielen trainieren: Dem Modell werden Beispielantworten gezeigt, die der Verfassung entsprechen. Anhand dieser Beispiele lernt die KI, wie akzeptables Verhalten aussieht.
• Muster erkennen und anwenden: Mit der Zeit erkennt das Modell diese Muster. Es lernt, dieselben Werte anzuwenden, wenn es neue Fragen beantwortet oder mit neuen Situationen umgeht.
• Ergebnisse bewerten und verbessern: Das Modell überprüft seine eigenen Antworten und passt sie anhand der Verfassung an. Durch diese Selbstprüfung kann es sich verbessern, ohne sich ausschließlich auf menschliches Feedback zu stützen.
• Ausgerichtete und sicherere Antworten geben: Das Modell lernt anhand einheitlicher Regeln. Dadurch lassen sich Verzerrungen verringern und die Zuverlässigkeit in der Praxis verbessern. Dieser Ansatz sorgt für eine stärkere Ausrichtung an menschlichen Werten und erleichtert die Kontrolle des Modells.

Abb. 2. Überblick über das Training von Modellen mit konstitutioneller KI.

Kernprinzipien für die Entwicklung ethischer KI#

Damit ein KI-Modell ethische Regeln befolgen kann, müssen diese zunächst klar definiert werden. Bei konstitutioneller KI beruhen die Regeln auf einer Reihe grundlegender Prinzipien.

Die folgenden vier Prinzipien bilden beispielsweise die Grundlage einer wirksamen KI-Verfassung:

• Transparenz: Es sollte leicht nachvollziehbar sein, wie ein Modell zu einer Antwort gekommen ist. Ob eine Antwort auf Fakten, Schätzungen oder Mustern beruht, sollte für den Nutzer transparent sein. Das schafft Vertrauen und hilft Menschen einzuschätzen, ob sie sich auf die Ergebnisse des Modells verlassen können.
• Gleichbehandlung: Die Antworten sollten für verschiedene Nutzerinnen und Nutzer gleichbleibend sein. Das Modell sollte seine Ausgabe nicht aufgrund des Namens, des Hintergrunds oder des Wohnorts einer Person ändern. Gleichbehandlung hilft, Verzerrungen zu verhindern und eine faire Behandlung zu fördern.
• Rechenschaftspflicht: Es sollte nachvollziehbar sein, wie ein Modell trainiert wurde und welche Faktoren sein Verhalten beeinflusst haben. Wenn etwas schiefgeht, sollten Teams die Ursache ermitteln und das Problem beheben können. Das fördert Transparenz und langfristige Rechenschaftspflicht.
• Sicherheit: Modelle müssen Inhalte vermeiden, die Schaden verursachen können. Wenn eine Anfrage zu riskanten oder unsicheren Ergebnissen führt, sollte das System dies erkennen und den Vorgang abbrechen. So werden sowohl der Nutzer als auch die Integrität des Systems geschützt.

Beispiele für konstitutionelle KI in großen Sprachmodellen#

Constitutional AI ist von der Theorie in die Praxis übergegangen und wird inzwischen langsam in großen Modellen eingesetzt, die mit Millionen von Nutzern interagieren. Zwei der häufigsten Beispiele sind LLMs von OpenAI und Anthropic.

Beide Unternehmen verfolgen unterschiedliche Ansätze zur Entwicklung ethischerer KI-Systeme, doch eine Idee teilen sie: Das Modell soll lernen, eine Reihe schriftlich festgelegter Leitprinzipien zu befolgen. Sehen wir uns diese Beispiele genauer an.

OpenAIs Ansatz für konstitutionelle KI#

OpenAI hat als Teil des Trainingsprozesses für seine ChatGPT-Modelle ein Dokument namens Model Spec eingeführt. Dieses Dokument dient als eine Art Verfassung. Es beschreibt, worauf das Modell bei seinen Antworten abzielen soll, und nennt Werte wie Hilfsbereitschaft, Ehrlichkeit und Sicherheit. Außerdem wird definiert, welche Ausgaben als schädlich oder irreführend gelten.

Dieses Rahmenwerk wurde eingesetzt, um OpenAIs Modelle feinzujustieren, indem Antworten danach bewertet wurden, wie gut sie den Regeln entsprechen. Mit der Zeit hat dies dazu beigetragen, ChatGPT so zu formen, dass es weniger schädliche Inhalte erzeugt und sich stärker an den tatsächlichen Wünschen der Nutzer orientiert.

Abb. 3. Beispiel dafür, wie ChatGPT mithilfe von OpenAIs Model Spec antwortet.

Die ethischen KI-Modelle von Anthropic#

Die ursprüngliche Verfassung von Claude, die Anthropic im Januar 2026 durch eine neue Version ersetzte, beruhte auf ethischen Grundsätzen aus Quellen wie der Allgemeinen Erklärung der Menschenrechte, Plattformrichtlinien wie Apples Nutzungsbedingungen und Forschungsergebnissen anderer KI-Labore. Diese Grundsätze trugen dazu bei, die Sicherheit und Fairness von Claudes Antworten zu gewährleisten und sie an wichtigen menschlichen Werten auszurichten.

Claude nutzt außerdem Reinforcement Learning from AI Feedback (RLAIF): Dabei überprüft und überarbeitet das Modell seine eigenen Antworten anhand dieser ethischen Richtlinien, statt sich auf menschliches Feedback zu stützen. So kann Claude sich mit der Zeit verbessern, leichter skaliert werden und auch in schwierigen Situationen hilfreiche, ethische und unschädliche Antworten geben.

Abb. 4. Anthropics Ansatz für konstitutionelle KI verstehen.

Konstitutionelle KI auf Computer Vision anwenden#

Da konstitutionelle KI das Verhalten von Sprachmodellen positiv beeinflusst, stellt sich die Frage: Könnte ein ähnlicher Ansatz dazu beitragen, dass visuelle Systeme fairer und sicherer reagieren?

Computer-Vision-Modelle arbeiten zwar mit Bildern statt mit Text, doch ethische Leitlinien sind ebenso wichtig. Fairness und Verzerrungen sind beispielsweise zentrale Faktoren, denn diese Systeme müssen so trainiert werden, dass sie alle Menschen gleich behandeln und bei der Analyse visueller Daten schädliche oder ungerechte Ergebnisse vermeiden.

Abb. 5. Ethische Herausforderungen im Zusammenhang mit Computer Vision. Abbildung des Autors.

Derzeit befindet sich der Einsatz von Constitutional-AI-Methoden in der Computer Vision noch in einem frühen Stadium; die Forschung in diesem Bereich läuft weiter.

Meta hat beispielsweise kürzlich CLUE vorgestellt, ein Rahmenwerk, das auf Aufgaben zur Bildsicherheit übertragbare Schlussfolgerungen anwendet. Es wandelt allgemeine Sicherheitsregeln in präzise Schritte um, die multimodale KI (KI-Systeme, die verschiedene Datentypen verarbeiten und verstehen) befolgen kann. Dadurch kann das System klarer argumentieren und schädliche Ergebnisse reduzieren.

Außerdem macht CLUE die Bewertung der Bildsicherheit effizienter, indem es komplexe Regeln vereinfacht. So können KI-Modelle schnell und genau handeln, ohne umfangreiche menschliche Unterstützung zu benötigen. Mit einer Reihe von Leitprinzipien sorgt CLUE dafür, dass Bildmoderationssysteme besser skalierbar sind und gleichzeitig hochwertige Ergebnisse liefern.

Die wichtigsten Erkenntnisse#

Je mehr Verantwortung KI-Systeme übernehmen, desto stärker verlagert sich der Fokus von der Frage, was sie tun können, hin zu der Frage, was sie tun sollten. Dieser Wandel ist entscheidend, da diese Systeme in Bereichen eingesetzt werden, die das Leben der Menschen unmittelbar beeinflussen, etwa im Gesundheitswesen, bei der Strafverfolgung und in der Bildung.

Damit KI-Systeme angemessen und ethisch handeln, brauchen sie ein solides und einheitliches Fundament. Dieses Fundament sollte Fairness, Sicherheit und Vertrauen in den Vordergrund stellen.

Eine schriftliche Verfassung kann während des Trainings dieses Fundament schaffen und den Entscheidungsprozess des Systems leiten. Sie kann Entwicklern außerdem einen Rahmen bieten, um das Verhalten des Systems nach der Bereitstellung zu überprüfen und anzupassen. So lässt sich sicherstellen, dass das System weiterhin den Werten entspricht, die es vertreten soll, und leichter an neue Herausforderungen anpassen.

Werde noch heute Teil unserer wachsenden Community! Vertiefe dein Wissen über KI und entdecke unser GitHub-Repository. Möchtest du eigene Computer-Vision-Projekte entwickeln? Informiere dich über unsere Lizenzoptionen. Erfahre, wie Computer Vision im Gesundheitswesen die Effizienz steigert, und entdecke auf unseren Lösungsseiten die Auswirkungen von KI in der Fertigung!