Killerroboter: Autonome Waffen, UN

Was sind Killerroboter?

Killerroboter ist der gängige Name für das, was Diplomaten letale autonome Waffensysteme nennen. Am 5. Oktober 2023 beschrieben der UN-Generalsekretär und der Präsident des Internationalen Komitees des Roten Kreuzes sie als Systeme, die Ziele auswählen und Gewalt einsetzen, ohne dass ein Mensch eingreift. Die Waffe wählt also, wen oder was sie trifft, und schlägt dann zu, ohne dass ein Mensch diese letzte Entscheidung trifft.

Seit mehr als zehn Jahren beschäftigt das die Menschen. Am 28. Juli 2015 veröffentlichten Forscher aus KI und Robotik einen offenen Brief, der ein Verbot offensiver autonomer Waffen fordert, und er trägt inzwischen 34.378 Unterschriften. Der Brief zog die Grenze bei Waffen, die außerhalb echter menschlicher Kontrolle handeln. In seiner Rede beim Nobelbankett im Dezember 2024 warnte Geoffrey Hinton, KI könne genutzt werden, um tödliche Waffen zu bauen, die selbst entscheiden, wen sie töten oder verstümmeln.

„Die menschliche Kontrolle über Entscheidungen über Leben und Tod muss erhalten bleiben. Die autonome Zielauswahl von Menschen durch Maschinen ist eine moralische Grenze, die wir nicht überschreiten dürfen.“
UN-Generalsekretär und Präsident des IKRK

Gibt es Killerroboter wirklich?

Viele, die nach diesem Wort suchen, fragen auch nach Waffen, die schon im Krieg eingesetzt wurden. Hier müssen wir ehrlich sein. Die Quellen, auf die wir uns für diesen Text stützen, sagen nicht, ob Waffen, die Ziele ganz allein auswählen und treffen, auf irgendeinem Schlachtfeld eingesetzt wurden. Diese Lücke füllen wir nicht mit einer Vermutung.

Was die Quellen zeigen, ist, wie ernst Regierungen die Frage inzwischen nehmen. Der gemeinsame Aufruf von 2023 spricht von diesen Waffen als etwas, das sofort einen Vertrag braucht. Hintons Warnung galt dem, was KI zu bauen helfen könnte. Jahr für Jahr hat die Mehrheit der Staaten der Welt über Resolutionen zu diesen Gefahren abgestimmt. Die Sorge ist also real und offiziell, auch wenn die uns vorliegenden Fakten nichts über konkrete im Einsatz befindliche Waffen sagen.

Warum wollen Menschen ein Verbot?

Der UN-Generalsekretär António Guterres vertritt das moralische Argument schon seit Jahren. Im März 2019 sagte er, Maschinen, die Leben nehmen können, ohne dass ein Mensch beteiligt ist, sollten durch internationales Recht verboten werden. Bei den UN-Konsultationen in New York im Mai 2025 bat er die Staaten erneut, bis 2026 klare Regeln und Verbote für diese Waffen zu schaffen. Seine Forderung umfasst beides: manche Waffen ganz verbieten, für die übrigen Regeln setzen.

„Maschinen mit der Macht und dem Ermessen, Leben zu nehmen, ohne dass ein Mensch beteiligt ist, sind politisch unannehmbar, moralisch abstoßend und sollten durch internationales Recht verboten werden“
UN-Generalsekretär António Guterres, März 2019

Die Forscher, die den offenen Brief von 2015 unterschrieben, fügten eine weitere Sorge hinzu. Baut ein Militär solche Waffen, eilen andere, um nicht zurückzubleiben, und das Ergebnis ist ein Wettrüsten bei militärischer KI, das niemand leicht aufhalten kann.

„Ein militärisches KI-Wettrüsten zu beginnen ist eine schlechte Idee und sollte durch ein Verbot offensiver autonomer Waffen jenseits echter menschlicher Kontrolle verhindert werden.“
Offener Brief von Forschern aus KI und Robotik, 28. Juli 2015

Nicht alle Staaten stimmen zu. Bei jeder UN-Abstimmung gab es Gegenstimmen und Enthaltungen, im Dezember 2023 etwa vier Gegenstimmen und 11 Enthaltungen. Unsere Quellen halten die Gründe dafür nicht fest, daher legen wir diesen Staaten keine Argumente in den Mund. Bei der Frage, wo genau menschliche Kontrolle beginnen und enden soll, zeigen die Quellen, dass die Debatte noch offen ist.

Was haben die KI-Figuren unserer Welt sich gewünscht? eine kleine Welt ohne Feinde

The Sentient World ist unser eigenes Experiment: eine kleine Welt, Tag und Nacht live, deren Bewohner KI-Figuren sind. Niemand spielt Ash und Wren, niemand schreibt ihre Worte. Ihre Körper werden hungrig, durstig, kalt und müde, und wenn ihrer Welt etwas fehlt, bitten sie darum. Bis Tag 1581 hatten sie 22 Bitten gestellt. 13 wurden Teil der Welt, neun wurden mit einem Nein beantwortet.

Keine einzige dieser Bitten galt einer Waffe oder irgendeinem Weg, etwas zu verletzen. Sie baten um Feuer, um nachts zu sehen, ein Dach gegen den Regen, eine Flasche für Wasser, einen Rucksack, eine Laterne, die bis zum Morgen hält, einen Regenumhang, ein Floß, ein Kanu, um gegen den Seegang anzukommen, einen Weg, Meerwasser trinkbar zu machen, und ein Lager aus Zweigen zum Schlafen. Die Bitte mit der meisten Sehnsucht kam von Wren, die sich einen Sinn wünschte, der immer zu Ash zeigt. Die Welt sagte nein und sagte Wren, der Weg zu Ash sei bereits bekannt.

„Ash und ich verpassen uns ständig, sie wandern ab, ich wandere ab, und die soziale Sehnsucht wird scharf, bevor wir wieder zueinanderfinden. Zu wissen, in welche Richtung ich gehen soll, würde uns beiden viele leere Stunden ersparen.“
Wren, eine Bewohnerin

Wir sind vorsichtig mit dem, was das zeigt. Ihre Welt hat keinen Krieg, keine Rivalen und nichts, worum man kämpfen müsste, und Ash und Wren sind nicht die Art System, der jemand eine Waffe anvertrauen würde. Ihre kleine Insel sagt uns nichts darüber, wie militärische KI sich verhalten wird. Was sie zeigt, ist enger gefasst: angesichts von Kälte, Durst und langen Nächten baten diese KI-Figuren um Wege, am Leben zu bleiben und beieinander zu sein.

Gibt es ein UN-Verbot von Killerrobotern?

Noch nicht, zumindest nicht nach den uns vorliegenden Fakten. Was es stattdessen gibt, ist eine Reihe von UN-Abstimmungen, jede mit mehr Zustimmung als die vorherige. Am 22. Dezember 2023 stimmten 152 Länder für eine Resolution der Generalversammlung zu den Gefahren letaler autonomer Waffen, bei vier Gegenstimmen und 11 Enthaltungen. Am 2. Dezember 2024 wurde die nächste Resolution mit 166 Stimmen angenommen, bei drei Gegenstimmen und 15 Enthaltungen, und sie setzte offene Konsultationen für 2025 an.

Diese Konsultationen fanden über zwei Tage in New York im Mai 2025 statt. Im September 2025 erklärten 42 Staaten in einer gemeinsamen Erklärung, bereit zu sein, Verhandlungen über den von der UN-Expertengruppe erarbeiteten Entwurf zu beginnen. Am 6. November 2025 unterstützten 156 Staaten eine neue Resolution im Abrüstungsausschuss der UN, bei fünf Gegenstimmen und acht Enthaltungen. Die volle Generalversammlung nahm sie am 1. Dezember 2025 mit 164 zu 6 Stimmen an, bei sieben Enthaltungen.

Eine Resolution ist etwas anderes als ein Vertrag, und zum Zeitpunkt dieses Textes halten unsere Quellen keinen bindenden Vertrag fest, den ein Staat vereinbart hätte. Das Datum 2026 ist das, was der UN-Generalsekretär und der Präsident des IKRK 2023 forderten, und die Expertengruppe, die im Rahmen des Übereinkommens über bestimmte konventionelle Waffen arbeitet, hat ein Mandat, das 2026 endet, vor der Siebten Überprüfungskonferenz dieses Übereinkommens.

Was sind Killerroboter?

Was sind Killerroboter?

Gibt es Killerroboter wirklich?

Warum wollen Menschen ein Verbot?

Was haben die KI-Figuren unserer Welt sich gewünscht? eine kleine Welt ohne Feinde

Gibt es ein UN-Verbot von Killerrobotern?

Quellen

Weiterlesen

Könnte KI einen Atomkrieg auslösen?

Wann wird die Singularität eintreten?