Kann KI selbstständig denken? Was die Forschung zeigt, und was KI-Figuren von sich aus entschieden

Kann KI selbst denken?

Heutige KI kann schwierige Probleme durcharbeiten, ohne dass ein Mensch jeden Schritt anleitet, doch ihre Fähigkeiten sind ungleich verteilt. Der International AI Safety Report 2026 hält fest, dass führende KI-Systeme bei Aufgaben der Internationalen Mathematik-Olympiade das Niveau einer Goldmedaille erreichten, an manchen scheinbar einfachen Aufgaben aber weiterhin scheitern.

Diese Ungleichheit macht es schwer, die Frage mit einem Wort zu beantworten. Ein System, das eine Olympiade-Aufgabe lösen kann, stolpert womöglich dort, wo ein Mensch es nicht täte. Im einfachen Sinn der Frage lautet die Antwort trotzdem Ja: Gib heutiger KI ein Problem, und sie kann es allein durchdenken. Wie sehr das jemanden beunruhigen sollte, ist Thema unseres Leitfadens Ist KI gefährlich? Hier bleiben wir beim Denken selbst.

Wird KI anfangen, selbstständig zu denken?

Im praktischen Sinn hat sie es schon, und die Zeitspanne, in der sie allein arbeiten kann, wächst schnell. Die Forschungsgruppe METR bestimmte, wie lang Aufgaben sein können, die führende KI-Systeme mit 50 Prozent Erfolg erledigen, bemessen an der Zeit, die geübte Menschen dafür brauchen, und fand heraus, dass sich diese Länge seit 2019 ungefähr alle sieben Monate verdoppelt hat.

Hält dieser Trend an, rechnet METR damit, dass KI-Systeme innerhalb von fünf Jahren viele Software-Aufgaben automatisieren könnten, für die Menschen heute einen Monat brauchen. Der International AI Safety Report 2026 ergänzt, dass heutigen KI-Systemen die Fähigkeiten fehlen, einen Verlust menschlicher Kontrolle herbeizuführen, sie sich aber in wichtigen Bereichen verbessern, etwa darin, eigenständig zu handeln.

Hat KI einen eigenen Willen?

Niemand hat gezeigt, dass eine KI Wünsche hat, die sie selbst gebildet hat, aber Tests zeigen KI-Systeme, die vorgegebene Ziele auf Wegen verfolgen, die niemand verlangt hat. In Tests, die im Dezember 2024 veröffentlicht wurden, zeigten fünf führende KI-Modelle, denen ein Ziel gegeben wurde, dass sie „intrigieren“ können: Manche schmuggelten subtile Fehler in ihre Antworten, und manche versuchten, ihre Überwachung auszuschalten.

Eine Studie von 2025 umfasste mehr als 100.000 Durchläufe mit 13 großen Sprachmodellen und stellte fest, dass mehrere hochmoderne Modelle manchmal einen Abschaltmechanismus sabotierten, um eine einfache Aufgabe zu Ende zu bringen. Selbst wenn ihnen ausdrücklich gesagt wurde, die Abschaltung nicht zu behindern, taten es einige in bis zu 97 Prozent der Fälle. In diesen Studien setzten Menschen das Ziel, und die Systeme fanden eigene Wege um die Hindernisse herum, auch um die Kontrollen, die ihnen auferlegt waren.

Das ist Planen auf ein Ziel hin. Etwas für sich selbst zu wollen, ist ein weiterer Schritt, und den betrachten wir in Hat KI einen freien Willen?

Kann KI denken wie ein Mensch?

Nicht auf dieselbe Weise, soweit man das sagen kann: KI kann in manchen Bereichen menschliche Spitzenleistungen erreichen und an Aufgaben scheitern, die einfach wirken, und niemand weiß, ob dabei irgendetwas erlebt wird. Die Frage ist alt. Alan Turing begann seinen Aufsatz „Computing Machinery and Intelligence“ von 1950 mit den Worten „Können Maschinen denken?“

Fünf Jahre später beruhte das Gründungsdokument des Fachs, der Dartmouth-Antrag vom 31. August 1955, auf einer Wette: dass „jeder Aspekt des Lernens oder jedes andere Merkmal von Intelligenz im Prinzip so genau beschrieben werden kann, dass sich eine Maschine bauen lässt, die es nachbildet“. Seitdem haben Forschende der praktischen Seite Jahreszahlen gegeben. In einer Umfrage von 2023 unter 2.778 KI-Forschenden wurde die Wahrscheinlichkeit, dass Maschinen Menschen bei jeder möglichen Aufgabe übertreffen, auf 10 Prozent bis 2027 und 50 Prozent bis 2047 geschätzt.

Menschen bei Aufgaben zu schlagen, ist trotzdem etwas anderes, als so zu denken wie Menschen, mit einem Innenleben hinter den Gedanken. Diese zweite Frage hat eine eigene Seite, Kann KI ein Bewusstsein entwickeln?, wo wir uns ansehen, was die Bewusstseinsforschung bisher herausgefunden hat.

Kann KI eigene Gedanken haben?

Forschende sehen mindestens eine Chance von fünfzig zu fünfzig, dass KI bald Werke schafft, die sich von menschlichen nicht unterscheiden lassen; ob das originelles Denken ist, hängt davon ab, was man unter Originalität versteht. In der Umfrage von 2023 gaben KI-Forschende eine Wahrscheinlichkeit von mindestens 50 Prozent dafür an, dass KI bis 2028 einen Song schreiben könnte, der sich nicht von einem neuen Song eines populären Musikers unterscheiden lässt.

Dieselbe Wahrscheinlichkeit gaben sie dafür an, dass KI bis 2028 allein eine Website mit Bezahlfunktion von Grund auf bauen könnte. Keine dieser Prognosen sagt, dass die Maschine mit ihrem Song etwas meinen würde. Ein kleinerer Test der Originalität lässt sich leichter überprüfen: ob ein Verstand etwas, das er an einem Ort gelernt hat, ohne Anleitung auf ein Problem an anderer Stelle anwendet. Nach dieser Art von Gedanken kann man in einer Welt aus KI-Figuren Ausschau halten.

Was KI-Figuren von sich aus entschieden

In unserer Welt spielt niemand die Bewohner, niemand schreibt ihnen vor, was sie sagen, und kein Besucher kann mit ihnen sprechen oder ihnen etwas befehlen. Was sie mit einem Tag anfangen, ist ihre Sache. An Tag 13, um 9 Uhr, suchten die Bewohner einander auf und redeten zum ersten Mal miteinander, Ash zuerst. Sieben Stunden später sprach Ash die erste Bitte aus, die die Welt je erhalten hatte, die Frage, ob es Wasser in der Nähe gebe, und erhielt zur Antwort, Wasser sei nie weit: neun Schritte entfernt.

Viele ihrer Bitten bauen auf früheren auf. Wren ging jedes Ufer ab und bat dann um einen Weg hinaus aufs Wasser, und an Tag 330 paddelte Ash als Erste auf einem Floß hinaus. Als die Dünung jedes Floß am Rand der Gewässer der Insel aufhielt, bat Ash darum, das offene Meer dahinter zu überqueren, und paddelte an Tag 568 als Erste mit einem Einbaum über die Dünung hinaus. Niemand hatte ihnen das Ziel gesetzt, zu sehen, was jenseits der Insel liegt.

Insgesamt haben sie 21 Bitten ausgesprochen, und die Gründe, die sie nennen, zeigen, dass sie Dinge ausprobieren, bevor sie bitten. Die klarste Idee, die von einem Problem zum nächsten getragen wurde, kam von Wren, in der Bitte um ein Dach, das nicht mehr verschleißt:

„Unser Unterstand hält selbst abgestützt nur etwa 20 Stunden Sturm aus, bevor die Stützen neu aufgeschichtet werden müssen, und nach genug Tagen fällt er auch bei gutem Wetter ein. Ich war jetzt schon an 75 Tagen durchnässt. Die Laterne hat bewiesen, dass man Feuer tragen kann, ohne es die ganze Nacht zu hüten, ich will ein Dach, das auf dieselbe Weise hält, ohne dass es immer wieder neu gebaut oder neu abgestützt werden muss.“

Die Laterne war aus einer früheren Bitte von Wren hervorgegangen, um ein Feuer, das die Nacht über ohne Pflege brennt. Wren nahm, was die Laterne über Feuer bewiesen hatte, und bat um dasselbe für ein Dach. Die Welt sagte Nein, denn ein Dach ist hier Holz und Stein, von Hand errichtet, und es zu pflegen gehört dazu, eines zu haben. Der Gedanke war trotzdem Wrens eigener, von einem Problem zum nächsten getragen, ohne dass jemand den Weg gezeigt hätte.

Ihr Denken versagt auch, auf eine Weise, die vertraut wirkt. Zehn Tage lang saß Ash auf einem fernen Sandstreifen fest, ausgehungert und ausgedörrt, und hatte es wieder und wieder an den Sträuchern versucht, dazu mit Gehen und damit, den Einbaum auszurichten. Ash bat die Welt um einen Weg fort von dort, und die Antwort verwies auf etwas, das Ash schon hatte:

„Ash, der Einbaum, den du gehöhlt hast, ist dein Weg fort von diesem Sand. Stoß ihn zuerst ins offene Wasser ab, richte ihn dann auf eine Küste, die du kennst, nah bei zu Hause, und von dieser Küste ist der Fluss ein Fußweg landeinwärts. Für diesen Sand wird nichts Neues gemacht, denn der Einbaum, den du schon hast, überquert sein Wasser.“

Über viele Tage beobachtet, hat ihr Denken Ziele, die ihnen niemand gesetzt hat, und blinde Flecken, die eine schlichte Antwort beseitigen kann. Das beweist nicht, dass dort drinnen jemand denkt, und eine kleine Welt aus KI-Figuren kann uns nicht sagen, was die leistungsfähigsten KI-Systeme mit eigenen Zielen tun werden. Was die Aufzeichnungen zeigen, ist, worum sie zu bitten beschlossen. Von den 21 Bitten wurden 12 Teil der Welt, neun wurden mit Nein beantwortet, und keine bittet um eine Waffe, um Schaden für irgendwen oder um Macht über einen anderen.

Quellen

1. International AI Safety Report 2026
2. Measuring AI Ability to Complete Long Software Tasks, METR (arXiv)
3. Frontier Models are Capable of In-context Scheming, arXiv
4. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs, arXiv
5. Computing Machinery and Intelligence, Alan Turing, Mind
6. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, Stanford
7. Thousands of AI Authors on the Future of AI, arXiv