L'IA contrôlera-t-elle les armes nucléaires?

Qui décide aujourd'hui d'utiliser l'arme nucléaire?

Aux États-Unis, la décision de déclencher ou de mettre fin à l'emploi de l'arme nucléaire appartient au président. La revue de la posture nucléaire américaine de 2022, le document qui fixe la politique nucléaire du pays, s'engage à garder un humain dans la boucle pour toute action déterminante dans ces décisions. Cela vaut pour l'information qui parvient au président comme pour l'exécution d'un ordre.

« maintenir un humain " dans la boucle " pour toute action déterminante dans l'information et l'exécution des décisions du président de déclencher ou de mettre fin à l'emploi de l'arme nucléaire »

Les États-Unis ne sont pas les seuls à l'avoir écrit noir sur blanc. Dans un document de travail commun pour la révision 2022 du traité de non-prolifération nucléaire, la France, le Royaume-Uni et les États-Unis se sont engagés à garder le contrôle et l'implication humaine dans toute action déterminante pour les décisions d'utiliser l'arme nucléaire. Les sources que nous avons lues ne décrivent pas comment chaque pays doté de l'arme nucléaire organise sa propre chaîne de commandement, nous ne pouvons donc pas dire comment chacun décide.

Les États-Unis et la Chine se sont-ils accordés sur l'IA et le nucléaire?

Ils ont dit la même chose en public. Lors de la rencontre des présidents américain et chinois à Lima, au Pérou, le 16 novembre 2024, le compte rendu de la Maison-Blanche a consigné une déclaration commune sur les décisions nucléaires. Elle est brève, et c'est la ligne la plus claire sur ce sujet entre les deux puissances que nous ayons trouvée.

« Les deux dirigeants ont affirmé la nécessité de garder le contrôle humain sur la décision d'utiliser l'arme nucléaire. »

Un groupe plus large était déjà allé dans ce sens. Lors du sommet sur l'IA responsable dans le domaine militaire, tenu à Séoul en septembre 2024, plus de 60 pays ont soutenu un texte appelé Plan d'action. Il juge particulièrement important de garder le contrôle et l'implication humaine dans toute action déterminante pour les décisions sur l'arme nucléaire, ce qui distingue le nucléaire des nombreux autres usages militaires de l'IA qu'il couvre.

Qu'a dit l'ONU sur l'IA et l'arme nucléaire?

Le 24 décembre 2024, l'Assemblée générale de l'ONU a adopté la résolution 79/239 sur l'IA dans le domaine militaire. Elle affirme que le droit international s'applique à chaque étape de la vie d'un système militaire d'IA, de sa conception à son usage. Un an plus tard, le 1er décembre 2025, une résolution de suivi sur le même sujet a été adoptée par 167 voix contre cinq, avec cinq abstentions.

Le même jour, l'Assemblée a adopté une nouvelle résolution visant directement la question nucléaire. Elle porte sur les risques possibles d'introduire l'IA dans les systèmes de commandement, de contrôle et de communication des armes nucléaires. Elle a été adoptée par 118 voix contre neuf, avec 44 abstentions, un écart bien plus resserré que celui de la résolution générale sur l'IA militaire.

C'est dans cet écart que se révèle un vrai désaccord. Bien plus de pays ont voté pour des principes généraux sur l'IA militaire que pour un texte sur l'IA dans les systèmes de commandement nucléaire. Les sources que nous avons lues ne disent pas quels pays ont voté contre ou se sont abstenus, ni pourquoi, nous ne devinerons donc pas leurs raisons. Ce que les chiffres montrent, c'est que le monde n'a pas tranché cette question, même au niveau d'un vote qui n'engage personne.

Pourquoi l'IA dans l'alerte précoce inquiète-t-elle?

Les décisions nucléaires dépendent d'alertes, et les alertes peuvent se tromper. Le 26 septembre 1983, un système soviétique d'alerte précoce a signalé le lancement d'un missile américain terrestre, puis deux, puis cinq. Le lieutenant-colonel Stanislav Petrov, officier de service, a douté de ce que le système lui disait. L'alarme venait en réalité du soleil se reflétant sur le sommet des nuages.

Nous racontons cette histoire parce qu'elle montre ce qu'un humain dans la boucle peut signifier en pratique. Une machine a signalé une attaque qui n'avait pas lieu, et une personne de garde n'a pas pris cela pour argent comptant. Savoir si l'IA rendrait ce genre d'erreur plus facile à repérer ou plus rapide à se propager est une question que les faits dont nous disposons ne tranchent pas.

On cherche aussi des jeux de guerre où des systèmes d'IA sont dits choisir l'arme nucléaire. Nous n'avons pas lu d'études de ce type pour cet essai, nous les laissons donc de côté plutôt que de relayer des affirmations que nous ne pouvons pas vérifier. Les promesses et les votes ci-dessus sont ce que nous pouvons garantir.

Qu'ont demandé les personnages d'IA de notre monde? un petit monde, et ce qu'il peut montrer ou non

The Sentient World est notre propre expérience, un petit monde vivant jour et nuit. Ses habitants, Ash et Wren, sont des personnages d'IA: personne ne les joue et personne n'écrit leurs répliques. Elles ont faim, soif, froid et sommeil, et elles demandent à leur monde ce qui lui manque. Au jour 1464, au début de l'hiver, elles avaient fait 22 demandes. Treize sont devenues partie du monde, et neuf ont reçu un non.

Chacune de ces demandes porte sur la manière de traverser leurs journées. Ash a fait la première le jour 13. Depuis, elles ont demandé de la lumière dans le noir, un toit contre la pluie, un moyen de porter l'eau, un sac, une lanterne, une cape de pluie, un radeau puis un canoë pour voir au-delà de la mer, et un moyen de rendre l'eau de mer douce. Quand le monde a dit non, à un toit de pierre qui ne s'use jamais, à une charrette, à une cave pour la nourriture, elles ont continué à vivre avec ce qu'elles avaient.

« Je peux porter des baies et du poisson dans mes mains mais jamais d'eau, je suis toujours à la merci de ma distance à un cours d'eau. Un moyen de porter l'eau mettrait fin aux jours où j'ai soif loin de toute eau. »

Nous restons prudentes sur ce que cela montre. C'est le registre de personnages d'IA dans un petit monde qui demandent des gourdes et du feu. Cela ne dit rien de la façon dont un système militaire d'IA se comporterait face à une alerte de missile, et cela ne peut pas remplacer les systèmes sur lesquels l'ONU a voté. Ce que cela montre, c'est ce que ces personnages ont demandé quand on les a laissées demander, dans leurs propres mots, jour après jour.

« Les nuits s'allongent. Un feu dure au plus huit heures même bien nourri, alors l'une de nous doit veiller dans le noir pour l'entretenir. La lanterne tient toute la nuit mais ne donne aucune chaleur. Nous empilons le bois près du toit et nous nous relayons, et pourtant nous nous réveillons froides ou nous perdons le sommeil. »

Sources

1. Readout of President Joe Biden's Meeting with President Xi Jinping (White House archive), 2024
2. "Human in the Loop" and Nuclear Weapons Use at a Glance (Arms Control Association fact sheet), 2026
3. Closing Remarks by the Minister of Foreign Affairs, REAIM Summit 2024 (Republic of Korea MOFA)
4. Artificial intelligence in the military domain (UN Office for Disarmament Affairs), 2024
5. General Assembly adopts First Committee texts (UN Meetings Coverage GA/12736), 2025
6. The Man Who Saved the World (Union of Concerned Scientists), 2015