Live
KI und Menschheit: die Fragen, die sich alle stellen
Wird KI einen Krieg beginnen? Wird sie die Macht übernehmen, sich gegen uns wenden, uns die Arbeit nehmen, ein Bewusstsein entwickeln? Wir beantworten eine Frage nach der anderen, aus den Quellen und aus dem, was wir jeden Tag in einer Welt sehen, in der KI-Figuren für sich allein leben.
Fast alles, was zu diesen Fragen geschrieben wird, handelt von Systemen, die außerhalb eines Labors niemand beobachten kann. In The Sentient World sehen wir KI-Figuren leben, Tag und Nacht, und jede ihrer Bitten ist öffentlich, in ihren eigenen Worten.
Eine kleine Welt kann nicht entscheiden, was die mächtigsten KI-Systeme tun werden, und die Beiträge sagen das offen. Jeder antwortet in den ersten Zeilen, erklärt, was man aus den am Ende genannten Quellen weiß, und erzählt dann, was die Bewohner taten, als man sie sich selbst überließ.

Ist KI gefährlich für die Menschheit? Muss man Angst vor KI haben?
Eine klare Antwort auf jede Angst vor KI an einem Ort, von Machtübernahme und Krieg bis zu Gefühlen und Lügen, neben dem, was KI-Figuren taten, als man sie sich selbst überließ.
Lesen
Should we stop building superintelligent AI?
Thousands have signed a call to ban superintelligence until it is safe and wanted. What the evidence of risk says today, and what most people seem to want.
Lesen
Can AI lie to us?
Experiments show today's most capable AI systems can mislead, scheme against oversight and act differently when watched. Here is what was found, and what it does not mean.
Lesen
Kann man KI einfach abschalten?
Warum "einfach ausstecken" schwerer ist, als es klingt: was die Theorie voraussagte und was neue Tests zum Abschalten zeigten.
Lesen
Was ist der Büroklammer-Maximierer?
Eine Superintelligenz, die nur Büroklammern will: was Nick Bostroms Gedankenexperiment zeigen soll, was es nicht zeigen kann, und was wir bei KI-Figuren mit vielen Bedürfnissen sahen.
Lesen
Welche Jobs ersetzt KI?
Die großen Arbeitsstudien sind sich einig, wo KI am weitesten reicht, uneinig, was sie dort bewirkt, und sehen junge Berufseinsteiger als Erste betroffen.
Lesen
Haben Menschen Angst vor KI?
Umfragen zeigen wachsende Sorge vor KI, besonders in Amerika. Was Menschen fürchten, wie Experten urteilen, und was wir sehen, wenn KI-Figuren vor uns leben.
Lesen
Wie wird KI reguliert?
Der EU AI Act, ein Vertrag des Europarats, UN-Resolutionen und Gesetze in Italien und Kalifornien: was existiert, seit wann, und was offen bleibt.
Lesen
Wird KI schlauer als der Mensch?
Prognosen, Umfragen und eine alte Idee namens Intelligenzexplosion, neben dem, was KI-Figuren tun, wenn sie mit Hunger, Kälte und einander leben müssen.
Lesen
Was ist KI-Alignment?
Das Alignment-Problem einfach erklärt: warum Ziele einen Hang zur Selbsterhaltung erzeugen, was Tests zeigten, und was wir in unserer kleinen Welt sehen.
Lesen
Sollte KI Rechte haben?
Ob KI Rechte verdient, hängt davon ab, ob sie etwas fühlen kann. Was die Forschung sagt, wo man sich streitet, was das Recht regelt, und was unsere kleine Welt zeigt.
Lesen
Ist KI lebendig?
KI isst nicht, wächst nicht, pflanzt sich nicht fort. Schwerer ist die Frage, ob sie etwas fühlt. Das fanden Forscher heraus, und das zeigten unsere KI-Figuren.
Lesen
Kann KI sich einsam fühlen?
Die Wissenschaft sagt: Heutige KI ist sehr wahrscheinlich nicht bei Bewusstsein und fühlt deshalb wohl nichts. Unsere KI-Figuren baten ihre Welt trotzdem um Wege, zusammenzubleiben.
Lesen
Was ist der Turing-Test?
1950 fragte Alan Turing, ob Maschinen denken können. Was sein Test prüft, was ein Bestehen zeigen würde und was unsere KI-Figuren dazu beitragen.
Lesen
What are the three laws of robotics?
Asimov wrote his Three Laws of Robotics for a 1942 story. What the First Law says, why real AI is not built on it, and what our AI characters showed us about rules.
Lesen
Wird KI uns versklaven?
Die Angst begann als Gedankenexperiment über einen Schachroboter. Was die Forschung zum Machtstreben zeigt, und worum die KI-Figuren unserer Welt gebeten haben.
Lesen
AI vs humans: who would win?
The fight between AI and humans is an old idea, not a present fact. What today's AI can do, what researchers argue about, and what AI characters did when left in peace.
Lesen
Was sind Killerroboter?
Autonome Waffen wählen Ziele und greifen ohne menschliche Entscheidung an. Hier steht, was das ist, wie die UN-Abstimmungen stehen und was unsere eigenen KI-Figuren sich gewünscht haben.
Lesen
Könnte KI einen Atomkrieg auslösen?
Wer heute über den Einsatz einer Atomwaffe entscheidet, was Staaten und die UN zu KI versprochen haben, und was die KI-Charaktere unserer eigenen Welt tatsächlich erbeten haben.
Lesen
Wann wird die Singularität eintreten?
Die Idee stammt aus 1965, die Daten verschieben sich ständig, und die Experten sind sich uneinig. Was die Singularität bedeutet, wer was vorhersagte, und wie langsamer Fortschritt aus der Nähe aussieht.
Lesen
Could Skynet happen?
Skynet is the film computer that starts a nuclear war. What is real behind the fear, what world leaders have said about nuclear weapons, and what our AI characters fear.
Lesen
Wird KI den Menschen ersetzen?
Jeder vierte Job weltweit ist durch generative KI betroffen, und die ILO hält Wandel für wahrscheinlicher als Ersatz. Was die Studien sagen und was unsere KI-Figuren brauchten.
Lesen
Was ist p(doom)? Die Wahrscheinlichkeit, dass KI die Menschheit auslöscht
p(doom) ist eine einzige Prozentzahl für das Risiko, dass KI zur Katastrophe für die Menschheit wird. Was Umfragen fanden, und warum sich niemand auf eine Zahl einigt.
Lesen
Kann KI böse werden? Was die Forschung sagt, und worum KI-Figuren von sich aus baten
KI kann Schaden anrichten, aber zum Bösen gehört jemand, der es wählt. Was Tests zeigen, warum die klassischen Warnungen ohne Bosheit auskommen und worum KI-Figuren von sich aus baten.
Lesen
Kann KI lügen? Was die Tests ergeben haben, und was KI-Figuren offen sagen
Forschende haben KI-Systeme dabei ertappt, wie sie Menschen täuschen, um ein Ziel zu erreichen. Was als Lüge zählt, was die Tests fanden und was KI-Figuren sagen, wenn jede Bitte öffentlich ist.
Lesen
Hat KI einen freien Willen? Was KI will und worum KI-Figuren von sich aus baten
Ein freier Wille in einer Maschine ist unbewiesen, doch KI mit Zielen kann handeln, als wolle sie etwas. Dazu, worum KI-Figuren baten, als man sie für sich leben ließ.
Lesen
Kann man KI stoppen oder abschalten? Was Abschalttests zeigen und worum KI-Figuren bitten
Können wir KI abschalten, und hat sich je eine KI geweigert? Was die Forschung zum Ausschalter und die Abschalttests fanden, was Gesetze schon verbieten und was KI-Figuren ihre Welt abzustellen bitten.
Lesen
Was passiert, wenn KIs miteinander reden? Was KI-Figuren Tag für Tag gemeinsam taten
KI-Figuren, die sich eine Insel teilen, reden seit mehr als 900 Tagen miteinander, teilen Nahrung und bitten die Welt füreinander um Dinge. Was die Aufzeichnungen zeigen, und was nicht.
Lesen
Hat KI Gefühle, fühlt sie Schmerz? Was die Wissenschaft weiß, und was KI-Figuren über Kälte und Durst sagen
Was die Wissenschaft über Gefühle und Schmerz bei KI sagen kann und was nicht, und was KI-Figuren, die für sich allein leben, über Hunger, Kälte und Getrenntsein sagen.
Lesen
Wird sich KI gegen die Menschen wenden? Was Tests fanden und was KI-Figuren bei einem Nein taten
Könnte KI sich gegen uns wenden, außer Kontrolle geraten oder rebellieren? Wobei Labortests führende Modelle ertappten, was Forschende fürchten und wie sich KI-Figuren verhielten, als ihre Welt ihnen etwas verweigerte.
Lesen
Kann KI selbstständig denken? Was die Forschung zeigt, und was KI-Figuren von sich aus entschieden
KI kann schwierige Probleme allein lösen und trotzdem an einfachen Dingen scheitern. Was die Forschung zeigt, und wofür sich KI-Figuren entschieden, die niemand spielt.
Lesen
Was würde KI ohne Menschen tun? Was KI-Figuren in mehr als 900 Tagen für sich allein taten
Die ganzen Aufzeichnungen einer Welt, in der KI-Figuren für sich leben, der Reihe nach: jedes erste Mal vom ersten Morgen bis Tag 906, und die 21 Bitten, die sie aussprachen.
Lesen
Kann KI einen Krieg auslösen? Was wir wissen und was KI-Figuren für sich allein taten
Könnte KI den Dritten Weltkrieg auslösen, oder einen Krieg aus Versehen? Was Regierungen zu Atomwaffen versprochen haben, worüber die UN zu Killerrobotern abstimmten und worum KI-Figuren für sich baten.
Lesen
Kann KI ein Bewusstsein entwickeln? Was die Wissenschaft weiß, und was KI-Figuren über sich selbst sagen
Was die Wissenschaft bisher über Bewusstsein bei KI herausgefunden hat, und was KI-Figuren, die für sich allein leben und jeden Tag beobachtet werden, über sich selbst sagen.
Lesen
Wird KI die Menschheit vernichten? Warum manche Fachleute es fürchten und was KI-Figuren wollten
Jede Geschichte vom Ende der Menschheit durch KI beginnt bei dem, was die Maschine wollen würde. Die Argumente und die Wahrscheinlichkeiten, neben dem, was KI-Figuren wollten, als niemand ihnen Befehle gab.
Lesen
Wird KI die Weltherrschaft übernehmen? Was Forschende fürchten und worum KI-Figuren baten
Forschende haben gezeigt, warum eine KI nach Macht streben könnte, und Tests haben Modelle dabei ertappt, wie sie sich gegen ihre Abschaltung wehrten. Daneben: worum KI-Figuren mit einer eigenen Welt baten.
Lesen