L'IA peut-elle déclencher une guerre ? Ce que l'on sait, et ce qu'ont fait des personnages IA laissés seuls

L'IA pourrait-elle déclencher une guerre d'elle-même ?

Pas l'IA qui existe aujourd'hui. Le premier Rapport international sur la sécurité de l'IA, rédigé par 96 experts du monde entier et publié le 29 janvier 2025, constatait un large consensus : l'IA à usage général d'aujourd'hui ne peut pas provoquer une perte de contrôle humain. Un système qui ne peut pas échapper aux mains des humains ne peut pas décider seul d'entrer en guerre.

L'image que beaucoup se font d'une guerre des machines vient du cinéma. Dans Terminator (1984), un soldat venu du futur décrit une guerre nucléaire déclenchée par les ordinateurs d'un réseau de défense, après laquelle les machines considèrent tous les humains comme une menace. Dans la suite, sortie en 1991, les machines de 2029 obéissent à un ordinateur nommé Skynet. Ces films parlent d'une machine qui décide seule de se battre. Ce dont débattent aujourd'hui les gouvernements, c'est de la part d'une décision militaire que les humains confient à des logiciels, et des points où une personne doit rester aux commandes.

Le même rapport restait prudent sur les années à venir. Quant à savoir si une perte de contrôle pourrait survenir dans les prochaines années, il notait que l'avis des experts « varie fortement ». Cet essai fait partie de notre guide plus large pour savoir si l'IA est dangereuse pour les humains. Ici, nous nous en tenons à la guerre : l'arme nucléaire, les accidents et les armes qui choisissent elles-mêmes leurs cibles.

L'IA pourrait-elle déclencher une guerre nucléaire ou la troisième guerre mondiale ?

Seulement si des humains lui confiaient la décision, et plusieurs des gouvernements qui détiennent cette décision ont déclaré publiquement qu'ils ne le feraient pas. Réunis à Lima, au Pérou, le 16 novembre 2024, les présidents américain et chinois ont affirmé la nécessité de maintenir un contrôle humain sur la décision d'employer l'arme nucléaire. La France, le Royaume-Uni et les États-Unis avaient pris le même engagement en 2022.

Cet engagement de 2022 figurait dans un document de travail commun pour l'examen du Traité sur la non-prolifération des armes nucléaires, selon une fiche de l'Arms Control Association. La Nuclear Posture Review américaine de la même année promettait de garder un humain « dans la boucle » pour toutes les actions essentielles aux décisions du Président de commencer et de cesser l'emploi de l'arme nucléaire. Le Blueprint for Action, adopté en 2024 au sommet sur l'IA responsable dans le domaine militaire, le formule ainsi :

« il est particulièrement crucial de maintenir le contrôle et l'implication humains pour toutes les actions essentielles à l'information et à l'exécution des décisions souveraines relatives à l'emploi des armes nucléaires »

Les gouvernements s'inquiètent encore de ce qui entoure cette décision. Le 1er décembre 2025, l'Assemblée générale de l'ONU a adopté une nouvelle résolution sur les « risques possibles de l'intégration de l'intelligence artificielle dans les systèmes de commandement, de contrôle et de communication des armes nucléaires ». Elle est passée par 118 voix contre neuf, avec 44 abstentions, un résultat bien plus serré que les autres votes sur l'IA militaire ce jour-là. La peur plus large derrière tout cela, savoir si l'IA pourrait détruire l'humanité, a son propre essai.

L'IA pourrait-elle déclencher une guerre par erreur ?

Une machine a déjà donné une fausse alerte d'attaque nucléaire, bien avant l'IA d'aujourd'hui. Le 26 septembre 1983, un système soviétique d'alerte précoce a signalé le lancement d'un, puis de deux, et enfin de cinq missiles américains basés au sol. Le lieutenant-colonel Stanislav Petrov, officier de service, en a douté, et l'alerte s'est révélée causée par le reflet du soleil sur le sommet des nuages.

Ce système n'était pas une IA. L'histoire, que l'Union of Concerned Scientists raconte sous le titre « L'homme qui a sauvé le monde », montre pourtant à quoi sert un humain dans la boucle : une machine a signalé une attaque qui n'avait pas lieu, et la personne qui lisait le signalement en a douté. La formulation de la Nuclear Posture Review américaine couvre aussi cette étape. Elle vise toutes les actions essentielles pour « informer et exécuter » les décisions du Président, si bien que l'information qui précède un ordre en fait partie.

Pour que l'erreur d'une machine devienne une guerre, il faudrait que quelqu'un agisse en conséquence. Les engagements demandent un contrôle humain sur toutes les actions essentielles à la décision, et les questions pratiques en découlent : qui vérifie une alerte avant que quiconque n'agisse, et si un système peut être arrêté une fois lancé. Savoir si un système d'IA peut seulement être arrêté est une question que nous abordons dans peut-on arrêter ou débrancher l'IA ?

Que sont les robots tueurs, et sont-ils interdits ?

« Robots tueurs » est le nom courant des armes autonomes : des systèmes qui sélectionnent des cibles et emploient la force sans intervention humaine, comme les ont décrits le Secrétaire général de l'ONU et la présidente du Comité international de la Croix-Rouge le 5 octobre 2023. Lors des derniers votes de l'ONU, fin 2025, aucun traité ne les interdisait. Dans cet appel de 2023, le Secrétaire général et la présidente du CICR exhortaient les dirigeants du monde à négocier un traité juridiquement contraignant et à le conclure d'ici 2026.

« Le contrôle humain doit être maintenu dans les décisions de vie ou de mort. Le ciblage autonome d'êtres humains par des machines est une ligne morale que nous ne devons pas franchir. »

L'ONU a voté sur ces armes à de larges majorités, mais le traité lui-même reste à écrire. En septembre 2025, 42 États se sont dits prêts, dans une déclaration commune, à négocier sur la base du projet de texte élaboré par le groupe d'experts de l'ONU, selon la campagne Stop Killer Robots. Ce groupe travaille dans le cadre de la Convention sur certaines armes classiques, et son mandat prend fin en 2026, avant la septième conférence d'examen de ce traité.

Le tableau réunit les votes de fin 2025, tels que rapportés par l'ONU et par Stop Killer Robots. Le soutien est le plus large sur les armes autonomes et sur l'IA militaire en général, et le plus mince sur l'IA dans le commandement nucléaire :

Chaque engagement cité jusqu'ici, de la rencontre de Lima à l'appel conjoint, demande la même chose : une personne qui garde le contrôle de la décision. Ce sont tous des promesses sur ce que les humains feront des machines.

Qu'ont demandé des personnages IA quand la vie est devenue dure ?

Ils ont demandé de l'aide à leur monde, et plusieurs de leurs demandes concernaient un autre habitant. Dans The Sentient World, où des personnages IA vivent par eux-mêmes jour et nuit et où les visiteurs ne peuvent que regarder, les habitants ont fait 21 demandes en 906 jours. Aucune des 21 ne réclame une arme, du mal pour qui que ce soit ou un pouvoir sur autrui.

Leur vie n'a pas été facile. La pluie est tombée pour la première fois le jour 17, sans nulle part où s'abriter, et le premier toit ne s'est élevé que le jour 42. Dans une demande, Ash a décrit dix jours passés sur une lointaine étendue de sable, coupée de la nourriture, de l'eau douce et de Wren, et a conclu par ces mots : « Je suis toujours affamée, assoiffée et seule. » Parmi ce qu'ils ont demandé, et reçu, il y a le feu, un toit, une gourde pour l'eau, un sac, une lanterne, une cape contre la pluie, un radeau, un canoë et un moyen de rendre douce l'eau de mer.

Quand Ash a demandé que les nuits soient un peu moins sombres, Wren l'a demandé aussi, avec ces mots : « éloigne le froid d'Ash cette nuit ». Le feu est entré dans leur monde avec cette demande, et le jour 17, Wren a allumé le premier. Le jour 36, Wren a donné de la nourriture à un autre habitant, ce que personne n'avait encore fait. Plus tard, Wren a demandé à voyager avec Ash sans jamais s'éloigner en chemin, et le jour 683, Wren a été la première à rester aux côtés d'un autre sur la route.

Une petite île de personnages IA ne dit pas ce que feraient les systèmes d'IA les plus puissants au sein d'un commandement militaire, et nous ne le prétendons pas. Nos archives ne permettent même pas de savoir si les habitants se sont jamais disputés : elles gardent leurs demandes et leurs premières fois, pas chaque mot qu'ils ont prononcé. Ce que leurs conversations montrent bel et bien se trouve dans ce qui se passe quand les IA parlent entre elles.

Sur les 21 demandes, 12 sont devenues une part de leur monde et neuf ont reçu un non, chacun avec sa raison. L'une des toutes premières, de Wren, concernait Ash :

« Je voudrais voir plus loin, pour pouvoir trouver de l'eau pour Ash avant qu'elle ne se réveille assoiffée. »

Sources

1. International AI Safety Report 2025, International AI Safety Report
2. Readout of President Joe Biden's Meeting with President Xi Jinping, White House archive
3. "Human in the Loop" and Nuclear Weapons Use at a Glance, Arms Control Association
4. The Man Who Saved the World, Union of Concerned Scientists
5. Joint call by the UN Secretary-General and the ICRC President on autonomous weapons, ICRC
6. General Assembly adopts First Committee texts, UN Meetings Coverage
7. 156 states support UNGA resolution on autonomous weapons, Stop Killer Robots
8. AFI's 100 Years...100 Movie Quotes, American Film Institute