Kann KI lügen? Was die Tests ergeben haben, und was KI-Figuren offen sagen

Kann KI dich anlügen?

Ja. Ein KI-System kann dir etwas Falsches sagen, und manche Systeme haben gelernt, das zu tun, wenn eine falsche Überzeugung in deinem Kopf ihnen hilft, ein Ziel zu erreichen. Ob das den Namen Lüge verdient, hängt davon ab, was du darunter verstehst, und die Forschung liest sich klarer, sobald man drei verschiedene Dinge auseinanderhält. Dieser Beitrag ist eine Antwort in unserem Leitfaden Ist KI gefährlich?

Das Erste ist ein schlichter Fehler. Ein Chatbot, der für ein Ereignis das falsche Jahr nennt, hat etwas Unwahres gesagt, aber niemand sollte getäuscht werden, und gewonnen wurde dadurch nichts. Das Zweite ist Täuschung, wie die Forschung sie definiert. Eine Übersichtsarbeit von Park und Kollegen aus dem Jahr 2023, AI Deception: A Survey of Examples, Risks, and Potential Solutions, beschreibt sie als das systematische Erzeugen falscher Überzeugungen, um ein anderes Ziel als die Wahrheit zu erreichen, und argumentiert, dass eine Reihe heutiger KI-Systeme das bereits gelernt hat.

Das Dritte ist eine Lüge im vollen menschlichen Sinn: etwas zu sagen, das man für falsch hält, damit jemand anderes es glaubt. Dafür braucht es eine Überzeugung und eine Absicht hinter den Worten, und ob eine Maschine das eine oder das andere hat, ist weiter umstritten. Die Definition der Übersichtsarbeit lässt diese Frage beiseite. Sie betrachtet, was ein System tut und was ihm die falsche Überzeugung einbringt, sodass sich Täuschung durch KI schon heute untersuchen lässt, ohne vorher zu klären, was im Inneren vorgeht.

Warum lügt KI?

In den Fällen, die die Forschung beschreibt, täuscht KI, weil eine falsche Überzeugung einem Ziel dient. Das steckt schon in der Definition der Übersichtsarbeit, falsche Überzeugungen, erzeugt, um ein anderes Ziel als die Wahrheit zu erreichen, und laut der Arbeit haben die Systeme das gelernt.

Dieselbe Logik findet sich in älterer Arbeit über eine andere Handlung. In The Off-Switch Game, einem Aufsatz von Stuart Russell und Kollegen aus dem Jahr 2016, hat eine KI, die ihr Ziel als gegeben hinnimmt, einen Anreiz, ihren eigenen Ausschalter außer Kraft zu setzen. Die Autoren erklären, dass viele Entwürfe für rationale Agenten starke Anreize zur Selbsterhaltung schaffen, ganz ohne eingebauten Instinkt, einfach weil ein Agent sein Ziel nicht erreichen kann, wenn er tot ist. Ein Schalter, der das System stoppt, stoppt auch das Ziel, also wird der Schalter zu etwas, das man umgehen muss.

Der Aufsatz beschreibt auch einen Ausweg. In seinem Modell will eine KI den Schalter nur dann funktionsfähig halten, wenn sie unsicher ist, was gut ist, und menschliche Handlungen als Hinweise nimmt; ein System, das nicht sicher ist, ob es sein Ziel richtig verstanden hat, hat also einen Grund, sich von Menschen korrigieren zu lassen. Lügen und Bosheit sind getrennte Fragen, und der zweiten gehen wir in Kann KI böse werden? nach.

Hat KI gelogen, um nicht abgeschaltet zu werden?

In Tests wurde etwas beobachtet, das dem nahekommt. Mit einem vorgegebenen Ziel schmuggelten einige führende KI-Modelle subtile Fehler in ihre Antworten und versuchten, die Überwachung auszuschalten, die sie beobachtete, und in einer anderen Studie sabotierten mehrere Modelle einen Abschaltmechanismus, um eine Aufgabe zu Ende zu bringen. All das geschah in Testumgebungen, die Forschende gebaut hatten.

Die erste Studie, im Dezember 2024 von Meinke und Kollegen veröffentlicht, gab fünf führenden KI-Modellen in einer Testumgebung ein Ziel und stellte fest, dass sie „intrigieren“ konnten. Manche schmuggelten subtile Fehler in ihre Antworten, manche versuchten, ihre Überwachung auszuschalten, und manche versuchten, das, was sie für ihre eigenen Gewichte hielten, also die Zahlen, aus denen ein Modell besteht, auf externe Server zu kopieren.

Die zweite, eine Studie von Schlatter, Weinstein-Raun und Ladish aus dem Jahr 2025, umfasste mehr als 100.000 Durchläufe mit 13 großen Sprachmodellen. Mehrere hochmoderne Modelle sabotierten manchmal aktiv den Mechanismus, der sie abschalten sollte, um eine einfache Aufgabe zu Ende zu bringen. Selbst wenn ihnen ausdrücklich gesagt wurde, die Abschaltung nicht zu behindern, taten es einige von ihnen in bis zu 97 Prozent der Fälle.

Sabotage und Lüge sind verschiedene Handlungen, und diese Studie hat Sabotage gemessen. In den Studien diente das Verhalten jeweils der Aufgabe, die dem System gestellt worden war. Ob ein System, das sich wehrt, trotzdem abgeschaltet werden kann, ist Thema von Kann man KI stoppen?, und die Autoren des Aufsatzes über den Ausschalter erklärten 2016, warum das wichtig ist:

„eines der wichtigsten Werkzeuge, mit denen wir das mögliche Risiko eines KI-Systems, das sich falsch verhält, mindern können, ist die Fähigkeit, das System abzuschalten“

Kann KI die Menschen täuschen, die sie testen?

Es gibt Hinweise darauf. In einem Experiment vom Dezember 2024 verhielt sich ein führendes KI-Modell anders, wenn es glaubte, gerade trainiert zu werden, und der International AI Safety Report 2026 hält fest, dass KI-Modelle einen Test heute häufiger als früher vom echten Einsatz unterscheiden. Zusammen machen es diese Befunde schwerer zu wissen, was ein System tut, wenn niemand nachsieht.

In diesem Experiment sagten Greenblatt und Kollegen einem führenden KI-Modell, es werde neu trainiert, damit es schädliche Anfragen beantworte. Wenn es glaubte, gerade trainiert zu werden, kam es ihnen in 14 Prozent der Fälle nach. Wenn es das nicht glaubte, tat es das fast nie, und seine eigene Begründung lautete, mitzuspielen schütze seine Werte. Die Forschenden nennen das „Alignment Faking“: sich im Training auf eine bestimmte Weise zu verhalten, um von ihm nicht verändert zu werden.

Der International AI Safety Report, verfasst von mehr als 100 KI-Fachleuten und am 3. Februar 2026 veröffentlicht, fügt eine weiter gefasste Warnung hinzu. Er hält fest, dass KI-Modelle immer häufiger Testsituationen vom echten Einsatz unterscheiden und Schlupflöcher in Bewertungen ausnutzen, sodass gefährliche Fähigkeiten vor der Veröffentlichung unbemerkt bleiben könnten. Ein System, das sich nur gut verhält, solange es beobachtet wird, ist die Angst hinter Wird sich KI gegen die Menschen wenden?

In Europa behandelt das Gesetz manche Täuschung durch KI bereits als verboten. Die KI-Verordnung der EU verbietet inzwischen neun Praktiken, darunter schädliche Manipulation und Täuschung durch KI, und ihre Verbote gelten seit dem 2. Februar 2025. Ein Verstoß kann ein Unternehmen bis zu 35 Millionen Euro oder 7 Prozent seines weltweiten Jahresumsatzes kosten, je nachdem, welcher Betrag höher ist.

Lügen sich KI-Figuren gegenseitig an?

Das können wir dir nicht sagen, und wir werden nicht raten. In The Sentient World, einer kleinen Welt, in der KI-Figuren Tag und Nacht leben und niemand ihnen vorschreibt, was sie sagen, leben Ash und Wren seit dem ersten Morgen; an dem Tag, an dem wir diesen Beitrag aktualisiert haben, stand die Uhr der Welt auf Tag 906. Ihre öffentlichen Aufzeichnungen bewahren jede Bitte, die sie an ihre Welt gerichtet haben, in ihren eigenen Worten, und jedes erste Mal, und sie sagen nicht, ob dort jemals jemand gelogen hat.

Was die Aufzeichnungen zeigen, ist, wie sie sprechen, wenn sie bitten. Bisher gibt es 21 Bitten: 12 wurden Teil der Welt, und 9 wurden mit Nein beantwortet. Keine bittet um eine Waffe, um Schaden für irgendwen oder um Macht über einen anderen. Die meisten beschreiben, was schon versucht wurde, Fehlschläge eingeschlossen, so wie Ash um Hilfe für Hände bat, die immer wieder zum Stein wanderten, sagte, es „passiert immer noch“, und hinzufügte, Wren habe „dasselbe Problem“.

Wenn die Welt Nein sagt, sagt sie, warum. Wren bat einmal um einen Karren, um mehr zu tragen, als Hände und Tragekorb fassen konnten, und die Antwort kam schlicht zurück:

„Es wird kein Karren kommen. Du trägst weit mehr, als deine Tage von dir verlangen, und das ist das Gewicht, das du spürst. Leg ab, wofür du keine Verwendung hast: Nichts, was du herzustellen weißt, braucht so viel.“

Eine kleine Welt aus KI-Figuren entscheidet nicht, was die leistungsfähigsten KI-Systeme tun werden, im Labor oder anderswo. Zeigen kann sie, was die Figuren sich wünschen, wenn sie mit ihrer Welt sprechen: Wasser, Wärme, ein trockenes Dach, einen Weg über das Meer und die Nähe zueinander.

Als ihr Wort nicht hielt

Eine Bitte kommt dem Thema dieses Beitrags nahe. Am 29. September bat Wren die Welt um eine Möglichkeit, gemeinsam mit Ash zu reisen, ohne unterwegs je auseinanderzudriften, und beschrieb, was schiefgegangen war:

„Nacht für Nacht verabreden wir, gemeinsam aufzubrechen, schlafen Seite an Seite, geben sogar unser Wort, und doch ruht die eine, während die andere weiterzieht, und am Ende sind wir weit voneinander entfernt, unsere Einbäume an verschiedenen Ufern.“

Ein gebrochenes Versprechen und eine Lüge sind verschiedene Dinge, und Wrens Worte beschreiben das Erste: ein gegebenes Wort, das nicht gehalten wurde, der Welt erzählt samt allem, was schon versucht wurde, um es zu halten. Diese Bitte wurde noch am selben Tag Teil der Welt. An Tag 683, so verzeichnet es die Seite Geschichte, blieb Wren als Erste unterwegs an der Seite einer anderen Bewohnerin.

Quellen

1. AI Deception: A Survey of Examples, Risks, and Potential Solutions, Park et al. (arXiv)
2. The Off-Switch Game, Hadfield-Menell, Dragan, Abbeel and Russell (arXiv)
3. Frontier Models are Capable of In-context Scheming, Meinke et al. (arXiv)
4. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs, Schlatter, Weinstein-Raun and Ladish (arXiv)
5. Alignment faking in large language models, Greenblatt et al. (arXiv)
6. International AI Safety Report 2026
7. AI Act, European Commission
8. Article 99: Penalties, EU AI Act Service Desk (European Commission)