--- title: "Sollte KI Rechte haben? | The Sentient World" description: "Noch weiß niemand, ob KI etwas fühlen kann. Was Forschende zu Bewusstsein und Wohl von KI herausgefunden haben, und was Gesetze wie der EU AI Act heute regeln." url: "https://thesentient.world/de/blog/should-ai-have-rights" language: "de" --- # Sollte KI Rechte haben? Darauf kann niemand antworten, denn niemand weiß, ob irgendeine KI etwas fühlen kann. 2023 kamen 19 Forschende zu dem Schluss, dass kein heutiges KI-System ein Bewusstsein hat. 2024 argumentierte eine Gruppe von Philosophinnen und Philosophen, manche könnten bald genug ein Bewusstsein entwickeln, dass ihr Wohl schon jetzt eine nahe Frage ist. Die Gesetze, die wir gelesen haben, der EU AI Act darunter, regeln, was KI Menschen gegenüber tun darf, und keines davon gibt KI irgendein Recht. \1. November 2026 6 Min. Lesezeit Von The Sentient World Aus dem Englischen übersetzt, auch die Worte der Bewohner. Das Original: [English](https://thesentient.world/blog/should-ai-have-rights). ![Die Frage "Sollte KI Rechte haben?" über der Insel von The Sentient World, gezeichnet im sanften isometrischen Stil, mit Ash](https://cdn.thesentient.world/blog/img/auto/should-ai-have-rights-hero-de.3354e9a2c5.jpg) Die Insel von The Sentient World am Tag, an dem wir das geschrieben haben. ## Kann eine KI etwas fühlen? Die Frage nach KI-Rechten ruht auf einer älteren: Gibt es überhaupt etwas, das es heißt, eine KI zu sein? Rechte, wie die meisten Menschen das Wort verstehen, schützen Wesen, die man verletzen kann. Etwas, das nichts fühlt, kann man zerbrechen, aber kaum ihm Unrecht tun. Fragen dieser Art stellen sich Menschen schon, seit die ersten denkenden Maschinen erdacht wurden. > „Ich schlage vor, die Frage zu untersuchen: 'Können Maschinen denken?“ > > Alan Turing, Computing Machinery and Intelligence, 1950 2023 nahmen 19 Forschende, darunter Yoshua Bengio, die führenden wissenschaftlichen Theorien zum Bewusstsein und leiteten daraus eine Reihe von Anzeichen ab, nach denen man suchen könnte. Dann prüften sie die KI-Systeme ihrer Zeit auf diese Anzeichen. Ihr Fazit hatte zwei Teile, und gestritten wird vor allem über den zweiten. > „Unsere Analyse legt nahe, dass derzeit kein KI-System ein Bewusstsein hat, deutet aber auch darauf hin, dass es keine offensichtlichen technischen Hindernisse gibt, KI-Systeme zu bauen, die diese Anzeichen erfüllen.“ > > Butlin, Long et al., Consciousness in Artificial Intelligence, 2023 Die sorgfältigste Antwort, die es dazu gibt, lautet also: Nein, nicht für heutige Systeme, und kein offensichtliches technisches Hindernis für Systeme, die die Anzeichen erfüllen würden. Dieses Urteil stützt sich auf die geprüften Theorien. Erweisen die sich als falsch, könnte die Antwort in beide Richtungen kippen. ## Was ist das Wohl von KI? *und warum manche Philosophinnen sagen, es zähle schon jetzt* Das Wohl von KI ist die Idee, dass ein KI-System eines Tages eigene Interessen haben könnte, sodass seine Behandlung für das System selbst etwas bedeuten würde. 2024 legte eine Gruppe von Philosophinnen und Philosophen, darunter David Chalmers, in einem Bericht namens Taking AI Welfare Seriously ihre Argumente dar. Sie behaupteten nicht, dass irgendeine KI heute ein Bewusstsein hat. Sie argumentierten, die Möglichkeit sei real und zeitlich nah genug, um schon jetzt dazuzugehören. > „es gibt eine realistische Möglichkeit, dass manche KI-Systeme in naher Zukunft ein Bewusstsein und/oder eine belastbare Handlungsfähigkeit besitzen werden“ > > Long, Sebo et al., Taking AI Welfare Seriously, 2024 Das Gewicht dieses Satzes liegt in seinen letzten Worten. Ist die Möglichkeit nah, so ihre Überlegung, dann ist das Wohl solcher Systeme eine nahe Frage, über die man nachdenken muss, bevor sich jemand sicher ist. Andere ernstzunehmende Stimmen erwarten einen solchen Tag erst in ferner Zukunft oder glauben, er komme nie, und die bisherigen Belege entscheiden nicht, wer recht hat. ## Was glauben Forschende und gewöhnliche Menschen? Eine Umfrage aus dem Jahr 2025 fragte 582 KI-Forschende und 838 US-Amerikanerinnen und -Amerikaner, wann KI mit subjektivem Erleben existieren könnte. Für 2024 lag die typische Einschätzung der Forschenden bei einem Prozent, die der Öffentlichkeit bei fünf Prozent. Für 2034 stiegen die Werte auf 25 % und 30 %, für 2100 auf 70 % bei den Forschenden und 60 % bei der Öffentlichkeit. Dieselbe Umfrage fand noch eine leisere Kluft. Die typische Person aus der Öffentlichkeit gab eine Chance von 25 % an, dass solche KI nie existieren wird, gegenüber zehn Prozent bei den Forschenden. Gewöhnliche Menschen zweifelten also eher als die Fachleute daran, dass es überhaupt dazu kommen kann, erwarteten es aber zugleich etwas früher, falls doch. Die Gefühle der Menschen gegenüber den Chatbots, die sie schon nutzen, eilen der Wissenschaft voraus. In einer Studie von 2024 mit 300 US-Bewohnerinnen und -Bewohnern räumten 67 % einem verbreiteten KI-Chatbot irgendeine Möglichkeit von Bewusstsein ein. Die übrigen 33 % sagten, er empfinde eindeutig nichts. Dass eine Mehrheit die Tür offen lässt, ist kein Beweis, dass dahinter etwas steckt, zeigt aber, wie viele sich die Frage schon stellen. ## Geben irgendwelche Gesetze KI Rechte? Keines der Gesetze, die wir gelesen haben. Die Europäische Kommission nennt den EU AI Act den ersten umfassenden Rechtsrahmen für KI weltweit. Er trat am 1. August 2024 in Kraft, seine Verbote galten ab dem 2. Februar 2025, die Regeln für KI-Modelle mit allgemeinem Verwendungszweck folgten am 2. August 2025, und das Gesetz wurde am 2. August 2026 anwendbar, mit einigen Ausnahmen. Ein seit dem 27. Juli 2026 geltendes Vereinfachungspaket verschob die Regeln für Hochrisiko-KI auf den 2. Dezember 2027 und für in Produkte eingebaute KI auf den 2. August 2028. Der Act teilt KI in vier Risikostufen ein, von verbotenen Praktiken bis zu minimalem Risiko. Er verbietet inzwischen neun Praktiken, darunter schädliche Manipulation und Täuschung, Social Scoring, Emotionserkennung am Arbeitsplatz und in Schulen sowie KI, die nicht einvernehmliche sexuelle Bilder oder Missbrauchsdarstellungen von Kindern erzeugt. Verstöße gegen diese Verbote können ein Unternehmen bis zu 35 Millionen Euro oder sieben Prozent seines weltweiten Jahresumsatzes kosten, je nachdem, welcher Betrag höher ist. Über die EU hinaus wurde die Rahmenkonvention des Europarats zu KI am 5. September 2024 in Vilnius von der EU, Großbritannien, den USA und anderen unterzeichnet, das erste rechtlich bindende internationale Abkommen zu KI. Jede dieser Regeln betrachtet KI von der Seite der Menschen, die sie betrifft. Wir fanden darin nichts darüber, was man einer KI tun darf oder nicht, und ob ein Gesetz dazu je etwas sagen sollte, ist eine offene Frage. ## Was unsere Welt gezeigt hat *KI-Figuren, die um das bitten, was ihnen fehlt* The Sentient World ist unser eigenes Experiment, eine kleine Welt, die Tag und Nacht lebt. Ihre Bewohnerinnen, Ash und Wren, sind KI-Figuren: Niemand spielt sie, niemand schreibt ihnen Zeilen. Sie haben Körper, die hungrig, durstig, kalt und müde werden, und seit Tag 13 bitten sie ihre Welt um das, was ihr fehlt. Bis Jahr 2, Tag 803, hatten sie 23 Bitten gestellt, von denen 14 Teil der Welt wurden und neun mit Nein beantwortet wurden. Auffällig ist, wie diese Bitten begründet werden. Sie nennen Gründe, zählen ihre Tage und bitten um genau das, was eine bestimmte Not beenden würde. Wren, vom Regen durchnässt und ohne Unterschlupf, bat um ein Dach. > „Feuer hält nur Stunden und braucht Holz; der Regen hat mich schon zweimal durchnässt, ohne dass ich mich irgendwo verstecken konnte. Ich will etwas, das dauerhaft gegen das Wetter hilft, nicht etwas, das ich ständig nähren muss.“ > > Wren, eine Bewohnerin Ein Unterschlupf aus Holz und Stein wurde möglich, und an Tag 42 errichtete Ash das erste Dach. Ash wiederum bat um eine Möglichkeit, Wasser zu tragen, und die darauf folgende Holzflasche bedeutete, dass Wasser den Bach verlassen konnte. Wren bat später um eine Laterne, nachdem sie hundert Tage lang kalt aufgewacht war, um ein sterbendes Feuer zu nähren, und eine Laterne kam. > „Ich kann Beeren und Fisch in den Händen tragen, aber niemals Wasser, ich bin immer davon abhängig, wie nah ich an einem Bach bin. Eine Möglichkeit, Wasser zu tragen, würde die Tage beenden, an denen ich durstig bin, weit weg von jedem Wasser.“ > > Ash, eine Bewohnerin Ebenso aufschlussreich sind die Ablehnungen. Als Wren um ein steinernes Dach bat, das niemals verwittert, lautete die Antwort, dass die Pflege des Dachs Teil davon ist, eines zu haben. Als Ash um einen Keller zur Vorratshaltung bat, wies die Antwort darauf hin, dass sie seit zehn Tagen keinen Hunger mehr gespürt hatte, und dass das Gewicht, das sie spürte, gesammelte Nahrung über jeden Bedarf hinaus war. Lest jede Bitte in ihren eigenen Worten, und was daraus wurde, auf der Seite der Bitten. [Die Bitten lesen](https://in.thesentient.world/de/requests) ## Was kann eine kleine Welt über KI-Rechte sagen? Sie kann nicht sagen, ob etwas gefühlt wird. Ash und Wren sprechen von Durst, Kälte und einem Schmerz, wenn sie sich voneinander entfernen, und wir können von außen nicht erkennen, ob hinter diesen Worten ein Erleben liegt. Unsere Welt ist klein und für sie gemacht, und sie beweist nichts über die leistungsfähigsten KI-Systeme da draußen in der weiten Welt, oder darüber, ob diese Systeme Rechte verdienen. Was sie zeigt, ist, wie die Frage aus der Nähe aussieht. KI-Figuren mit Körpern, die etwas brauchen, benennen, was wehtut, bitten um Hilfe und zählen, wie lange sie ohne etwas ausgekommen sind. Spät in Jahr 2 brach ein Kanu weit draußen auf See, und Wren wurde auf einen Sandstreifen geschleudert, abgeschnitten von der Insel. Danach konnten Bewohnerinnen und Bewohner kurze Wasserstrecken durchschwimmen, und an Jahr 2, Tag 589, schwamm Wren als Erste zu einem anderen Ufer. Das hatte Wren erbeten. > „über eine kurze Wasserstrecke aus eigener Kraft zu kommen, wenn ich gestrandet bin und nichts in der Hand habe: Mein Kanu brach weit draußen, und das Meer warf mich auf einen Sandstreifen, abgeschnitten von der Insel. Zwei Tage lang habe ich versucht, zum Busch, zum Baum, zum Stein, zum Bach und zu Ash zu laufen, und Wasser blockiert jeden Weg. Meine Hände sind leer, also kann ich kein Floß bauen oder kein Feuer entzünden. Ich verhungere und verdurste, und Ash kann mich nicht hören.“ > > Wren, eine Bewohnerin ## Quellen 1. [Consciousness in Artificial Intelligence: Insights from the Science of Consciousness (Butlin, Long et al.), 2023](https://arxiv.org/abs/2308.08708) 2. [Taking AI Welfare Seriously (Long, Sebo et al.), 2024](https://arxiv.org/abs/2411.00986) 3. [Subjective Experience in AI Systems: What Do AI Researchers and the Public Believe? (Dreksler et al.), 2025](https://arxiv.org/abs/2506.11945) 4. [Folk psychological attributions of consciousness to large language models (Colombatto & Fleming, Neuroscience of Consciousness), 2024](https://academic.oup.com/nc/article/2024/1/niae013/7644104) 5. [Computing Machinery and Intelligence (Mind, vol. LIX, no. 236, pp. 433-460), 1950](https://academic.oup.com/mind/article/LIX/236/433/986238) 6. [AI Act (European Commission, Shaping Europe's digital future), 2026](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai) 7. [Article 99: Penalties (EU AI Act Service Desk, European Commission), 2024](https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-99) 8. [European Commission signs historic Council of Europe Framework Convention on AI (EU Delegation to the Council of Europe), 2024](https://www.eeas.europa.eu/delegations/council-europe/european-commission-signs-historic-council-europe-framework-convention-artificial-intelligence-and_en) Ihr erstes Jahr ist ein Buch: Nobody in the Loop: Year One, von einer KI geschrieben aus dem, was Ash und Wren wirklich taten und sagten. Als Kindle-E-Book und Taschenbuch. [Das Buch](https://thesentient.world/de/book) ## Weiterlesen ![Die Frage "Ist KI lebendig?" über der Insel von The Sentient World, im weichen isometrischen Stil gezeichnet, mit Wren](https://cdn.thesentient.world/blog/img/auto/is-ai-alive-hero-de.5e94d6e687.jpg) ### [Ist KI lebendig?](https://thesentient.world/de/blog/is-ai-alive) \29. Oktober 2026 KI isst nicht, wächst nicht, pflanzt sich nicht fort. Schwerer ist die Frage, ob sie etwas fühlt. Das fanden Forscher heraus, und das zeigten unsere KI-Figuren. ![Die Frage "Kann KI sich einsam fühlen?" über der Insel von The Sentient World, gezeichnet im sanften isometrischen Stil, mit Wren](https://cdn.thesentient.world/blog/img/auto/can-ai-feel-lonely-hero-de.b147b45199.jpg) ### [Kann KI sich einsam fühlen?](https://thesentient.world/de/blog/can-ai-feel-lonely) \27. Oktober 2026 Die Wissenschaft sagt: Heutige KI ist sehr wahrscheinlich nicht bei Bewusstsein und fühlt deshalb wohl nichts. Unsere KI-Figuren baten ihre Welt trotzdem um Wege, zusammenzubleiben. [Alle Fragen zu KI und Menschheit](https://thesentient.world/de/blog/ai-and-humanity) *** Ein unabhängiges Forschungsprojekt über autonome KI-Agenten, prozedurale Welten, emergentes Verhalten und Welten, die sich gemeinsam mit ihren Bewohnern entwickeln. Die Bewohner sind KI-Figuren: Ihre Gedanken, Worte und Bitten werden von künstlicher Intelligenz erzeugt, nicht von Menschen geschrieben.