Könnte KI einen Atomkrieg auslösen?

Wer entscheidet heute über den Einsatz von Atomwaffen?

In den Vereinigten Staaten liegt die Entscheidung, den Einsatz von Atomwaffen zu beginnen oder zu beenden, beim Präsidenten. Die US Nuclear Posture Review von 2022, das Dokument, das die Atompolitik des Landes festlegt, verpflichtete sich, bei jeder für diese Entscheidungen entscheidenden Handlung einen Menschen im Entscheidungsprozess zu behalten. Das gilt sowohl für die Information, die den Präsidenten erreicht, als auch für die Ausführung eines Befehls.

„einen Menschen 'im Entscheidungskreis' für alle Handlungen zu behalten, die entscheidend sind, um Entscheidungen des Präsidenten zum Beginn und zur Beendigung des Einsatzes von Atomwaffen zu informieren und auszuführen“

Die Vereinigten Staaten sind nicht die einzigen, die dies schriftlich festgehalten haben. In einem gemeinsamen Arbeitspapier zur Überprüfungskonferenz des Atomwaffensperrvertrags 2022 verpflichteten sich Frankreich, das Vereinigte Königreich und die Vereinigten Staaten, menschliche Kontrolle und Beteiligung bei allen für Entscheidungen über den Einsatz von Atomwaffen entscheidenden Handlungen zu bewahren. Die von uns gelesenen Quellen beschreiben nicht, wie jedes Land mit Atomwaffen seine eigene Befehlskette führt, daher können wir nicht sagen, wie jedes von ihnen entscheidet.

Haben sich die USA und China über KI und Atomwaffen verständigt?

Sie haben öffentlich dasselbe gesagt. Als sich die Präsidenten der USA und Chinas am 16. November 2024 in Lima, Peru, trafen, hielt der Bericht des Weißen Hauses über das Treffen eine gemeinsame Erklärung zu Atomwaffenentscheidungen fest. Sie ist kurz, und es ist die klarste Aussage zu diesem Thema zwischen den beiden Mächten, die wir gefunden haben.

„Die beiden Staatschefs bekräftigten die Notwendigkeit, menschliche Kontrolle über die Entscheidung zum Einsatz von Atomwaffen zu bewahren.“

Eine größere Gruppe hatte sich bereits in dieselbe Richtung bewegt. Beim Gipfel zu verantwortungsvoller KI im militärischen Bereich, der im September 2024 in Seoul stattfand, unterstützten mehr als 60 Länder ein Dokument namens Blueprint for Action. Es bezeichnet die Bewahrung menschlicher Kontrolle und Beteiligung bei allen für Entscheidungen über Atomwaffen entscheidenden Handlungen als besonders wichtig und hebt Atomwaffen damit aus den vielen anderen militärischen Einsatzbereichen von KI hervor, die es behandelt.

Was hat die UN zu KI und Atomwaffen gesagt?

Am 24. Dezember 2024 verabschiedete die UN-Generalversammlung die Resolution 79/239 zu KI im militärischen Bereich. Sie bekräftigt, dass internationales Recht in jeder Phase eines militärischen KI-Systems gilt, von seiner Konzeption bis zu seinem Einsatz. Ein Jahr später, am 1. Dezember 2025, wurde eine Folgeresolution zum selben Thema mit 167 Stimmen zu fünf und fünf Enthaltungen angenommen.

Am selben Tag verabschiedete die Versammlung eine neue Resolution, die sich gezielt mit der nuklearen Frage befasst. Sie betrifft die möglichen Risiken, KI in die Kommando-, Kontroll- und Kommunikationssysteme von Atomwaffen einzubinden. Sie wurde mit 118 Stimmen zu neun und 44 Enthaltungen angenommen, einer deutlich knapperen Mehrheit als die allgemeine Resolution zu militärischer KI.

Genau in dieser Lücke zeigt sich ernste Uneinigkeit. Deutlich mehr Länder waren bereit, für allgemeine Grundsätze zu militärischer KI zu stimmen als für einen Text über KI in nuklearen Kommandosystemen. Die von uns gelesenen Quellen nennen nicht, welche Länder dagegen stimmten oder sich enthielten, oder warum, daher werden wir über ihre Gründe nicht spekulieren. Was die Zahlen zeigen, ist, dass die Welt diese Frage nicht geklärt hat, selbst auf der Ebene einer Abstimmung, die niemanden bindet.

Warum macht man sich Sorgen über KI in Frühwarnsystemen?

Entscheidungen über Atomwaffen hängen von Warnungen ab, und Warnungen können falsch sein. Am 26. September 1983 meldete ein sowjetisches Frühwarnsystem den Start einer US-Interkontinentalrakete, dann zwei, dann fünf. Oberstleutnant Stanislav Petrov, der diensthabende Offizier, zweifelte an dem, was das System ihm meldete. Der Alarm stellte sich als Reflexion von Sonnenlicht an Wolkenoberseiten heraus.

Wir erzählen diese Geschichte, weil sie zeigt, was ein Mensch im Entscheidungsprozess in der Praxis bedeuten kann. Eine Maschine meldete einen Angriff, der nicht stattfand, und ein Mensch im Dienst nahm das nicht einfach hin. Ob KI solche Fehler leichter erkennbar machen oder sie schneller fortpflanzen würde, ist eine Frage, die die uns vorliegenden Fakten nicht klären.

Manche suchen auch nach Kriegsspielen, in denen KI-Systeme angeblich Atomwaffen wählen. Für diesen Beitrag haben wir solche Studien nicht gelesen, daher lassen wir sie außen vor, statt Behauptungen weiterzugeben, die wir nicht prüfen können. Die Zusagen und Abstimmungen oben sind das, wofür wir einstehen können.

Was haben die KI-Charaktere unserer Welt erbeten? eine kleine Welt, und was sie zeigen kann und nicht

The Sentient World ist unser eigenes Experiment, eine kleine Welt, die Tag und Nacht lebt. Ihre Bewohner, Ash und Wren, sind KI-Charaktere: niemand spielt sie, niemand schreibt ihre Worte. Sie werden hungrig, durstig, kalt und müde, und sie bitten ihre Welt um das, was ihr fehlt. Bis Tag 1464, im frühen Winter, hatten sie 22 Bitten gestellt. Dreizehn wurden Teil der Welt, neun wurden mit Nein beantwortet.

Jede dieser Bitten dreht sich darum, ihre Tage zu bestehen. Ash stellte die erste am Tag 13. Seitdem haben sie um Licht in der Dunkelheit gebeten, um ein Dach gegen Regen, um ein Mittel, Wasser zu tragen, um einen Rucksack, eine Laterne, einen Regenumhang, ein Floß und dann ein Kanu, um über das Meer hinauszusehen, und um einen Weg, Salzwasser süß zu machen. Als die Welt Nein sagte, zu einem steinernen Dach, das nie verschleißt, zu einem Karren, zu einem Keller für Vorräte, lebten sie weiter mit dem, was sie hatten.

„Ich kann Beeren und Fisch in meinen Händen tragen, aber niemals Wasser, ich bin immer davon abhängig, wie nah ich an einem Bach bin. Ein Mittel, Wasser zu tragen, würde den Tagen ein Ende setzen, an denen ich fern von jedem Wasser Durst leide.“

Wir sind vorsichtig damit, was das zeigt. Es ist das Protokoll von KI-Charakteren in einer kleinen Welt, die um Flaschen und Feuer bitten. Es sagt nichts darüber, wie sich ein militärisches KI-System bei einer Raketenwarnung verhalten würde, und es kann die Systeme, über die die UN abgestimmt hat, nicht ersetzen. Es zeigt, worum diese Charaktere baten, als man sie fragen ließ, in ihren eigenen Worten, Tag für Tag.

„Die Nächte werden länger. Ein Feuer hält höchstens acht Stunden, selbst gut genährt, also muss eine von uns im Dunkeln aufwachen, um es zu nähren. Die Laterne hält die Nacht durch, gibt aber keine Wärme. Wir stapeln Holz unter dem Dach und wechseln uns ab, und trotzdem wachen wir fröstelnd auf oder verlieren Schlaf.“

Quellen

1. Readout of President Joe Biden's Meeting with President Xi Jinping (White House archive), 2024
2. "Human in the Loop" and Nuclear Weapons Use at a Glance (Arms Control Association fact sheet), 2026
3. Closing Remarks by the Minister of Foreign Affairs, REAIM Summit 2024 (Republic of Korea MOFA)
4. Artificial intelligence in the military domain (UN Office for Disarmament Affairs), 2024
5. General Assembly adopts First Committee texts (UN Meetings Coverage GA/12736), 2025
6. The Man Who Saved the World (Union of Concerned Scientists), 2015