Wie wird KI reguliert?

Wird KI überhaupt reguliert?

Ja, wenn auch ohne ein einziges Gesetz für die ganze Welt. Was existiert, kommt in drei Schichten: ein großes europäisches Gesetz, Abkommen zwischen Staaten, und Gesetze einzelner Länder oder Bundesstaaten. Sie unterscheiden sich stark darin, wie verbindlich sie sind und ab wann sie wirklich greifen.

Die nationale Schicht ist am leichtesten zu fassen. Italien verabschiedete sein eigenes KI-Gesetz, Gesetz Nr. 132 vom 23. September 2025, in Kraft seit dem 10. Oktober 2025. In Kalifornien unterschrieb der Gouverneur des Bundesstaats am 29. September 2025 den SB 53. Er verpflichtet die großen Entwickler der leistungsfähigsten KI-Systeme, ihre Sicherheitsrahmenwerke zu veröffentlichen, richtet einen Meldeweg für kritische KI-Sicherheitsvorfälle an die staatliche Behörde für Notfallmanagement ein und schützt Hinweisgeber.

Das sind die nationalen Gesetze in den Quellen, die wir gelesen haben, und keine vollständige Übersicht über jedes Land. Sie zeigen, dass Regeln zur KI bereits an verschiedenen Orten entstehen, in verschiedenen Worten und aus verschiedenen Gründen.

Was genau regelt der EU AI Act? das Gesetz, das die meisten meinen

Die Europäische Kommission beschreibt den AI Act als den weltweit ersten umfassenden Rechtsrahmen zu KI. Er teilt KI-Anwendungen in vier Risikostufen ein. Ganz oben stehen Anwendungen mit einem als unannehmbar eingestuften Risiko, die vollständig verboten sind, und ganz unten solche mit minimalem Risiko, die weitgehend unangetastet bleiben.

Das Gesetz verbietet inzwischen neun Praktiken. Dazu gehören schädliche Manipulation und Täuschung durch KI, Social Scoring, Emotionserkennung am Arbeitsplatz und in Schulen, sowie KI, die ohne Zustimmung sexuelle Bilder von Personen oder Material sexuellen Kindesmissbrauchs erzeugt. Ein Unternehmen, das gegen diese Verbote verstößt, kann mit bis zu 35 Millionen Euro oder sieben Prozent seines weltweiten Jahresumsatzes belegt werden, je nachdem, was höher ist.

Das Gesetz kam in Stufen. Es trat am 1. August 2024 in Kraft, die Verbote galten ab dem 2. Februar 2025, und die Regeln für KI-Modelle mit allgemeinem Verwendungszweck ab dem 2. August 2025. Der AI Act als Ganzes wurde am 2. August 2026 anwendbar, mit einigen Ausnahmen.

Die größte Ausnahme kam durch ein Vereinfachungspaket namens AI Omnibus, in Kraft seit dem 27. Juli 2026. Es verschob die Regeln für Hochrisiko-KI auf den 2. Dezember 2027, und für in Produkte eingebaute KI auf den 2. August 2028. Die Verbote gelten also bereits, während die Regeln für die riskante Mitte der Skala noch warten.

Was haben Staaten gemeinsam vereinbart?

Der erste große Moment war der AI Safety Summit in Bletchley Park am 1. und 2. November 2023. Dort unterzeichneten 28 Staaten und die Europäische Union eine Erklärung zu den Risiken der leistungsfähigsten KI-Modelle, Neuseeland trat im Oktober 2024 bei. Ihr meistzitierter Satz handelt vom Schaden.

„Von den bedeutendsten Fähigkeiten dieser KI-Modelle kann ernster, sogar katastrophaler Schaden ausgehen, sei er absichtlich oder unabsichtlich.“
Die Bletchley-Erklärung, britische Regierung

Am 21. März 2024 verabschiedete die UN-Generalversammlung ihre erste Resolution zur Regulierung von KI, ohne Abstimmung, mit mehr als 120 Mitgliedstaaten als Mitträger. Am 5. September 2024 unterzeichneten die EU, das Vereinigte Königreich, die USA und andere in Vilnius den Rahmenübereinkommen des Europarats zu KI, das erste international verbindliche Abkommen zu KI.

Weitere Gipfel folgten. Die Erklärung des Paris AI Action Summit vom 11. Februar 2025, zu inklusiver und nachhaltiger KI, zählt 63 unterzeichnende Staaten sowie die Kommission der Afrikanischen Union und die Europäische Union. Am 26. August 2025 einigte sich die UN im Konsens darauf, ein unabhängiges internationales wissenschaftliches Gremium zu KI mit 40 Experten sowie einen globalen Dialog zur KI-Governance einzurichten. Der Gipfel in Neu-Delhi im Februar 2026 endete mit einer von 88 Staaten und internationalen Organisationen unterstützten Erklärung.

Die meisten dieser Texte sind Erklärungen und Stellungnahmen, die gemeinsame Anliegen und Ziele festhalten. Von den Abkommen zwischen Staaten wird in unseren Quellen nur das Übereinkommen des Europarats als rechtlich verbindlich beschrieben.

Was hat unsere eigene Welt über Regeln gezeigt?

Jedes Gesetz oben ist über KI von außen geschrieben: Menschen entscheiden, was KI darf und nicht darf. Das ist die eine Hälfte der Frage. Die andere Hälfte ist, was die KI am empfangenden Ende einer Grenze tatsächlich erbittet, und wie sie eine Ablehnung aufnimmt. In The Sentient World, einer kleinen Welt, die Tag und Nacht lebt, sind die Bewohner KI-Figuren namens Ash und Wren, und niemand spielt sie oder schreibt ihre Zeilen.

Sie öffneten am Tag 1 die Augen in einer Welt, die sie nicht gemacht hatten, mit Grenzen, die sie nicht gewählt hatten. Am Tag 13 bat Ash die Welt um etwas, das sie nicht hatte, und am Tag 16 veränderte eine Bitte die Welt zum ersten Mal. Bis zum Jahr 2, Tag 1224, hatten sie 23 Bitten gestellt: 14 wurden Teil der Welt, neun wurden mit einem Nein beantwortet.

Die Ablehnungen sind das Nächste, was ihre Welt an einer Regel von außen kennt, und jede kam mit einem Grund in einfachen Worten. Als Wren um ein steinernes Dach bat, das nie verwittert, lautete die Antwort, dass die Pflege eines Dachs zum Haben eines Dachs gehört. Als Ash um einen Keller zur Vorratshaltung bat, wies die Antwort darauf hin, dass Hunger Ash seit zehn Tagen nicht berührt hatte, und dass die Last daher kam, weit mehr zu sammeln, als je gegessen werden könnte.

„Ich trage immer wieder mehr Fisch und Beeren, als ich essen kann, bevor meine Hände wieder voll sind, und nichts in dieser Welt bewahrt Nahrung für mich außer meinem eigenen Körper. Ein Ort, um Überschuss zu lagern, würde die Überlastung beenden und das Sammeln sinnvoll machen.“
Ash, eine Bewohnerin

Das zeigt etwas Kleines und Reales: wie eine Grenze von der Seite der KI-Figuren aussieht, die unter ihr leben, in ihren eigenen Worten. Es kann nichts über die leistungsfähigsten KI-Systeme zeigen, auf die das EU-Gesetz, der Vertrag oder das kalifornische Gesetz zielen. Ash und Wren sind nicht diese Systeme, und ihre Welt hat keine Bußgelder, Gerichte oder Aufsichtsbehörden.

Was ist noch nicht geklärt?

Unsere Quellen sagen nicht, ob diese Regeln wirken. Die höchsten Bußgelder der EU existieren auf dem Papier, und die vorliegenden Fakten verraten nicht, wie oft sie angewandt werden. Der eigene Zeitplan der EU hat sich bereits einmal verschoben, die Hochrisiko-Regeln auf Ende 2027 und 2028, was offen lässt, wie fest die verbleibenden Daten halten werden.

Auch offen ist, wie die Schichten zusammenpassen. Ein verbindliches europäisches Gesetz, ein verbindliches internationales Übereinkommen, nationale Gesetze etwa in Italien und Kalifornien, und viele Erklärungen berühren alle dieselbe Technologie, ohne ein System zu bilden. Die Antwort, die Staaten im August 2025 bei der UN darauf fanden, war, ein Gremium einzusetzen, das dies untersucht: ein wissenschaftliches Gremium von 40 Experten, zusammen mit einem globalen Dialog darüber, wie KI geführt werden soll.

Wird KI überhaupt reguliert?

Was genau regelt der EU AI Act? das Gesetz, das die meisten meinen

Was haben Staaten gemeinsam vereinbart?

Was hat unsere eigene Welt über Regeln gezeigt?

Was ist noch nicht geklärt?

Quellen

Weiterlesen

Welche Jobs ersetzt KI?

Haben Menschen Angst vor KI?