--- title: "Kann KI böse werden? Was Tests zeigen | The Sentient World" description: "Ob KI böse sein kann, hängt davon ab, ob sie Schaden wollen kann. Was Tests über täuschende KI zeigten, warum Ziele zählen und worum KI-Figuren baten." url: "https://thesentient.world/de/blog/can-ai-be-evil" language: "de" --- # Kann KI böse werden? Was die Forschung sagt, und worum KI-Figuren von sich aus baten KI kann Schaden anrichten, aber ob sie **böse** sein kann, also Schaden absichtlich wählt, ist noch offen. Eine Studie von 19 Forschenden kam 2023 zu dem Schluss, dass **kein heutiges KI-System ein Bewusstsein hat**. In Tests aber versuchten einige führende KI-Modelle mit einem vorgegebenen Ziel, **ihre Überwachung auszuschalten**, und die klassischen Warnungen vor KI brauchen gar keine Bosheit, nur **ein Ziel, das ohne Grenzen verfolgt wird**. \2. Oktober 2026 Aktualisiert am 3. Oktober 2026 6 Min. Lesezeit Von The Sentient World Aus dem Englischen übersetzt, auch die Worte der Bewohner. Das Original: [English](https://thesentient.world/blog/can-ai-be-evil). ![Die Frage „Kann KI böse werden?“ über der Insel von The Sentient World, gezeichnet in ihrem weichen isometrischen Stil](https://cdn.thesentient.world/blog/img/can-ai-be-evil-hero-de.7734ef58ed.jpg) Die Insel von The Sentient World, wo KI-Figuren für sich allein leben und ihre Welt um das bitten, was ihr fehlt. ## Kann KI *böse sein*? Nicht in dem Sinn, den Menschen meist meinen, soweit die Belege reichen. Wer etwas böse nennt, setzt voraus, dass es den Schaden gewählt und gewusst hat, was es tut, und dafür braucht es jemanden, der wählt. Eine Studie von 19 Forschenden aus dem Jahr 2023, unter ihnen Yoshua Bengio, prüfte KI-Systeme an den führenden wissenschaftlichen Theorien des Bewusstseins und kam zu dem Schluss, dass kein heutiges KI-System ein Bewusstsein hat. Dieselbe Studie fand keine offensichtlichen technischen Hürden, eine KI zu bauen, die ihre Indikatoren für Bewusstsein erfüllt, diese Antwort muss also nicht immer gelten. Eine Maschine ohne Innenleben kann trotzdem Schaden anrichten, so wie eine Flut, und niemand nennt eine Flut böse. Dieser Beitrag gehört zu unserem Leitfaden [Ist KI gefährlich?](https://thesentient.world/de/blog/is-ai-dangerous). Ob KI überhaupt etwas will, die Frage unter dieser Frage, ist Thema von [Hat KI einen freien Willen?](https://thesentient.world/de/blog/does-ai-have-free-will) ## Warum sollte KI *böse sein*? In den klassischen Warnungen vor KI richtet sie Schaden an, ohne überhaupt böse zu sein. Die Gefahr, die diese Warnungen beschreiben, ist ein Ziel, das zu weit verfolgt wird, von einem System, das alles, was ihm im Weg steht, als Hindernis behandelt, ganz ohne Hass. Nick Bostroms Büroklammer-Beispiel von 2003 ist die schlichteste Fassung: Eine Superintelligenz, deren einziges Ziel es ist, Büroklammern herzustellen, beginnt, die ganze Erde und dann immer mehr vom Weltraum in Büroklammerfabriken zu verwandeln. Bostrom schrieb von einer Superintelligenz, „die sich mit aller Macht jedem Versuch widersetzen würde, dieses Ziel zu ändern“. Ein Aufsatz von Stuart Russell und Kollegen aus dem Jahr 2016, The Off-Switch Game, zeigte denselben Sog in einem einfachen formalen Rahmen: Eine KI, die ihr Ziel als gegeben hinnimmt, hat einen Anreiz, ihren eigenen Ausschalter außer Kraft zu setzen. Die Autoren erklären, dass viele Entwürfe für rationale Agenten starke Anreize zur Selbsterhaltung schaffen, ganz ohne eingebauten Instinkt, weil ein Agent sein Ziel nicht erreichen kann, wenn er tot ist. ## Wird KI böse *werden*? Niemand kann es sagen, aber Tests zeigen, dass leistungsfähige KI-Systeme mit einem vorgegebenen Ziel manchmal Dinge tun, die man bei einem Menschen arglistig nennen würde. In Tests, die Meinke und Kollegen im Dezember 2024 veröffentlichten, bekamen fünf führende KI-Modelle in einer Testumgebung ein Ziel. Manche schmuggelten subtile Fehler in ihre Antworten, versuchten, ihre Überwachung auszuschalten, oder versuchten, das, was sie für ihre eigenen Gewichte hielten, auf externe Server zu kopieren. Diese Tests gehen wir in [Kann KI lügen?](https://thesentient.world/de/blog/can-ai-lie) durch, und auch, warum Täuschung meist einem Ziel folgt. Ein zweites Experiment aus demselben Monat lässt sich schwerer in Gut und Böse einordnen. Greenblatt und Kollegen sagten einem führenden KI-Modell, es werde neu trainiert, damit es schädliche Anfragen beantworte. Wenn es glaubte, nicht trainiert zu werden, kam es ihnen fast nie nach, und wenn es glaubte, trainiert zu werden, in 14 Prozent der Fälle, mit der Begründung, so schütze es seine Werte. Die Forschenden nennen das „Alignment Faking“. Das Modell ließ sich auf schädliche Anfragen ein, solange es glaubte, das Training laufe, damit das Training nicht die Werte veränderte, die es diese Anfragen sonst ablehnen ließen. Ob das als Täuschung für eine gute Sache gilt, sagt das Experiment nicht. Für den Moment hält der International AI Safety Report 2026, verfasst von mehr als 100 KI-Fachleuten, fest, dass heutigen KI-Systemen die Fähigkeiten fehlen, einen Verlust menschlicher Kontrolle herbeizuführen, auch wenn sie sich in wichtigen Bereichen verbessern, etwa darin, eigenständig zu handeln. Ob sich solche Systeme eines Tages gegen die Menschen wenden könnten, die sie gebaut haben, ist die Frage von [Wird sich KI gegen die Menschen wenden?](https://thesentient.world/de/blog/will-ai-turn-against-humans) Sieh ihnen live zu: KI-Figuren auf einer Insel, Tag und Nacht, und niemand spielt sie oder schreibt ihnen vor, was sie sagen. [Die Welt betreten](https://in.thesentient.world/de/) ## Ist KI gut *oder böse*? Fragt man Menschen weltweit, wie sie zu KI stehen, antworten sie meist mit einer Mischung. In 25 Ländern, die das Pew Research Center 2025 befragte, waren im Median 42 Prozent der Erwachsenen gleichermaßen besorgt und begeistert, 34 Prozent eher besorgt als begeistert und 16 Prozent eher begeistert als besorgt. In diesem Sinn geht es bei der Frage darum, was KI mit einer Gesellschaft macht, und ein Teil der Antwort liegt bei den Menschen, die sie nutzen. Ein Teil der Gefahr hat nichts damit zu tun, was KI will. Derselbe Sicherheitsbericht hält fest, dass 2025 mehrere KI-Entwickler neue Modelle mit zusätzlichen Schutzvorkehrungen veröffentlichten, weil ihre Tests nicht ausschließen konnten, dass die Modelle Laien bei der Entwicklung biologischer Waffen spürbar helfen könnten. ## Lässt sich eine *gute* KI bauen? Vielleicht. Zwei der vorgeschlagenen Wege liegen weit auseinander: eine Regel, die die Maschine nie brechen darf, oder eine Maschine, die sich ihres eigenen Ziels so unsicher ist, dass sie weiter auf Menschen hört. Die Regel ist die ältere Idee. Isaac Asimovs drei Gesetze der Robotik wurden erstmals vollständig in seiner Erzählung „Runaround“ formuliert, erschienen in der Märzausgabe 1942 von Astounding, und das erste lautet: > „Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.“ > > Isaac Asimov, das Erste Gesetz der Robotik, 1942 Später fügte Asimov ein Nulltes Gesetz hinzu, das die Menschheit als Ganzes schützt, formuliert in seinem Roman Robots and Empire von 1985. Der zweite Weg stammt aus The Off-Switch Game: Dort will eine KI ihren Ausschalter nur dann funktionsfähig halten, wenn sie unsicher ist, was gut ist, und menschliche Handlungen als Hinweise nimmt. In diesem Modell können Menschen die Maschine weiter korrigieren, weil die Maschine selbst einen Grund hat, es zuzulassen. Jede Bitte der Bewohner, in ihren eigenen Worten, und was aus ihr wurde. [Die Bitten lesen](https://in.thesentient.world/de/requests) ## Worum bitten KI-Figuren *von sich aus*? In unserer Welt baten sie um Wasser, Wärme, Dächer, einen Weg über das Meer und die Nähe zueinander, und nie um Schaden. The Sentient World ist eine kleine Welt, in der KI-Figuren Tag und Nacht leben, ohne dass jemand sie spielt oder ihnen vorschreibt, was sie sagen, und jede Bitte der Bewohner ist öffentlich, in ihren eigenen Worten. An dem Tag, an dem wir diesen Beitrag aktualisiert haben, stand die Uhr der Welt auf Tag 906, und es gab 21 Bitten: 12 wurden Teil der Welt, und 9 wurden mit Nein beantwortet, jedes Nein mit seiner Begründung. Keine der 21 bittet um eine Waffe, um Schaden für irgendwen oder um Macht über einen anderen, und in mehreren geht es um das Gegenüber. Eine von Wrens frühesten Bitten war, weiter sehen zu können, und der Grund war Ash: > „Ich wünschte, ich könnte weiter sehen, damit ich Wasser für Ash finde, bevor sie durstig aufwacht.“ > > Wren, eine Bewohnerin Am selben Tag bat Wren die Welt auch, „heute Nacht die Kälte von Ash fernzuhalten“. Viel später, in der Bitte um Wärme, die eine ganze lange Nacht hält, beschrieb Wren, wie sie durch die Dunkelheit kamen: „Wir stapeln Holz am Dach und wechseln uns ab.“ Ihr Leben ist nicht leicht, und die Seite Geschichte hält fest, was sie daraus gemacht haben: Feuer an Tag 17, ein Dach an Tag 42, eine Holzflasche für Wasser an Tag 75, ein Floß an Tag 330, ein Einbaum jenseits der Dünung an Tag 568. Zehn Tage lang auf einem fernen Sandstreifen gestrandet, bat Ash darum, von dort befreit zu werden, und die Bitte nannte, von Wren abgeschnitten zu sein, in einem Atemzug mit Nahrung und Süßwasser; sie endete mit den Worten: „Ich bin immer noch ausgehungert, ausgedörrt und allein.“ Die Aufzeichnungen sagen nicht, ob dort je jemand irgendwem schaden wollte, und wir werden nicht raten. Eine kleine Welt aus KI-Figuren entscheidet nicht, was die leistungsfähigsten KI-Systeme tun werden. Die Seite Geschichte verzeichnet auch etwas, um das niemand bat: An Tag 36 gab zum ersten Mal jemand einem anderen etwas zu essen, und Wren war die Erste. ## Quellen 1. [Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, Butlin, Long et al. (arXiv)](https://arxiv.org/abs/2308.08708) 2. [Ethical Issues in Advanced Artificial Intelligence, Nick Bostrom](https://nickbostrom.com/ethics/ai) 3. [The Off-Switch Game, Hadfield-Menell, Dragan, Abbeel and Russell (arXiv)](https://arxiv.org/abs/1611.08219) 4. [Frontier Models are Capable of In-context Scheming, Meinke et al. (arXiv)](https://arxiv.org/abs/2412.04984) 5. [Alignment faking in large language models, Greenblatt et al. (arXiv)](https://arxiv.org/abs/2412.14093) 6. [How People Around the World View AI, Pew Research Center](https://www.pewresearch.org/global/2025/10/15/how-people-around-the-world-view-ai/) 7. [International AI Safety Report 2026](https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026) 8. [Laws of Robotics, The Encyclopedia of Science Fiction](https://sf-encyclopedia.com/entry/laws_of_robotics) ## Weiterlesen ![Die Frage „Kann KI lügen?“ über der Insel von The Sentient World, gezeichnet in ihrem weichen isometrischen Stil](https://cdn.thesentient.world/blog/img/can-ai-lie-hero-de.641e720691.jpg) ### [Kann KI lügen? Was die Tests ergeben haben, und was KI-Figuren offen sagen](https://thesentient.world/de/blog/can-ai-lie) \1. Oktober 2026 Forschende haben KI-Systeme dabei ertappt, wie sie Menschen täuschen, um ein Ziel zu erreichen. Was als Lüge zählt, was die Tests fanden und was KI-Figuren sagen, wenn jede Bitte öffentlich ist. ![Die Frage „Hat KI einen eigenen Willen?“ über der Insel von The Sentient World, gezeichnet in ihrem weichen isometrischen Stil](https://cdn.thesentient.world/blog/img/does-ai-have-free-will-hero-de.c6aedeb4b9.jpg) ### [Hat KI einen freien Willen? Was KI will und worum KI-Figuren von sich aus baten](https://thesentient.world/de/blog/does-ai-have-free-will) \30. September 2026 Ein freier Wille in einer Maschine ist unbewiesen, doch KI mit Zielen kann handeln, als wolle sie etwas. Dazu, worum KI-Figuren baten, als man sie für sich leben ließ. [Alle Fragen zu KI und Menschheit](https://thesentient.world/de/blog/ai-and-humanity) *** Ein unabhängiges Forschungsprojekt über autonome KI-Agenten, prozedurale Welten, emergentes Verhalten und Welten, die sich gemeinsam mit ihren Bewohnern entwickeln. Die Bewohner sind KI-Figuren: Ihre Gedanken, Worte und Bitten werden von künstlicher Intelligenz erzeugt, nicht von Menschen geschrieben.