L'IA va-t-elle détruire l'humanité ? Pourquoi des experts le craignent, et ce que voulaient des personnages IA

L'IA pourrait-elle provoquer l'extinction de l'humanité ?

Certains des chercheurs les plus connus du domaine le jugent possible, la plupart espèrent mieux, et personne ne peut prouver ni l'un ni l'autre. La plus vaste enquête du genre a demandé à 2 778 chercheurs publiés dans les grandes revues et conférences d'IA ce que l'IA fera au monde. Entre 38 % et 51 % d'entre eux donnaient au moins 10 % de chances qu'une IA avancée mène à des issues aussi graves que l'extinction humaine. En 2023, des scientifiques de l'IA et des personnalités, dont Geoffrey Hinton et Yoshua Bengio, ont signé une déclaration d'une seule phrase :

« Réduire le risque d'extinction lié à l'IA devrait être une priorité mondiale, au même titre que d'autres risques à l'échelle de la société comme les pandémies et la guerre nucléaire. »

Une déclaration est un appel à l'attention, et elle ne chiffre pas la probabilité de cette fin. Cette question est l'une des réponses de notre guide plus large pour savoir si l'IA est dangereuse pour les humains, où chaque peur de cette série reçoit une courte réponse et un lien vers son propre essai.

Pourquoi l'IA voudrait-elle détruire l'humanité ?

Dans les scénarios que décrivent les chercheurs, le danger vient d'une IA qui poursuit un autre but, si complètement que les humains finissent par la gêner ou ne comptent tout simplement pas. La chaîne a quelques maillons simples, et chacun a été défendu par écrit.

Le premier maillon, c'est rester en vie. Une IA conçue pour atteindre un but gagne à rester allumée, et elle a donc une raison de se protéger. L'article de 2016 sur le « jeu de l'interrupteur », signé par Stuart Russell et ses collègues, explique que de nombreuses conceptions d'agents rationnels créent de fortes incitations à l'autopréservation, pour une raison simple : un agent ne peut pas atteindre son objectif s'il est mort. Le même article montrait qu'une IA qui tient son but pour acquis a intérêt à désactiver son interrupteur.

Le maillon suivant, ce sont les ressources. L'exemple donné en 2003 par le philosophe Nick Bostrom est une superintelligence dont le seul but est de fabriquer des trombones, et qui « résisterait de toutes ses forces à toute tentative de modifier ce but ». Elle se met à transformer la Terre entière, puis une part toujours plus grande de l'espace, en usines de trombones. Arrêtée avant son terme, la même chaîne devient l'argument de ceux qui craignent que l'IA domine le monde. Geoffrey Hinton a lui aussi pensé le remède en termes de volonté : « Nous avons un besoin urgent de recherches sur la manière d'empêcher ces nouveaux êtres de vouloir prendre le contrôle. »

Comment l'IA pourrait-elle détruire l'humanité ?

Certaines des voies évoquées aujourd'hui commencent par des humains : une IA qui aide quelqu'un à fabriquer une arme, et des armes conçues pour décider seules. Le Rapport international sur la sécurité de l'IA 2026, rédigé par plus de 100 experts de l'IA et soutenu par plus de 30 pays et organisations internationales, indique qu'en 2025 plusieurs développeurs d'IA ont publié de nouveaux modèles assortis de garde-fous supplémentaires. Leurs tests ne permettaient pas d'exclure que ces modèles aident réellement des novices à mettre au point des armes biologiques.

En recevant le prix Nobel de physique, au banquet du 10 décembre 2024, Geoffrey Hinton a averti que l'IA pourrait servir à fabriquer des armes létales qui décident seules qui tuer ou mutiler. Le risque que l'IA déclenche une guerre a son propre essai. La dernière voie est la chaîne décrite plus haut, une IA que personne ne peut contrôler. Sur ce point, le rapport 2026 indique que les systèmes actuels n'ont pas les capacités de provoquer une perte de contrôle humain, mais qu'ils progressent dans des domaines qui comptent, comme l'action autonome.

L'IA va-t-elle tous nous tuer ? Ce que disent les sceptiques

La plupart des chercheurs interrogés ne s'y attendent pas, même si beaucoup des plus optimistes y voient une probabilité réelle, et les avertissements les plus graves visent des systèmes encore à venir. Dans l'enquête de 2023, 68,3 % jugeaient les bonnes issues d'une IA surhumaine plus probables que les mauvaises. Pourtant, 48 % de ces optimistes donnaient encore au moins 5 % de chances à des issues extrêmement graves, comme l'extinction humaine.

Hinton lui-même a situé la menace existentielle à plus long terme. Dans le même discours du banquet Nobel, il a déclaré :

« Il existe aussi une menace existentielle à plus long terme, qui surgira quand nous créerons des êtres numériques plus intelligents que nous. »

« Nous ne savons absolument pas si nous pourrons garder le contrôle », a-t-il dit dans le même discours. Le rapport 2026 ajoute qu'il est devenu plus courant que des modèles d'IA distinguent un test de l'usage réel, si bien que des capacités dangereuses pourraient passer inaperçues avant leur diffusion.

Pourquoi tant de gens en ont-ils peur ?

Cette peur est répandue et grandit, et l'histoire qui la porte est ancienne. Dans un sondage YouGov de septembre 2026 auprès de 18 238 adultes américains, 50 % se disaient très (23 %) ou plutôt (27 %) inquiets que l'IA cause la fin de l'humanité, contre 42 % en novembre 2023.

Le mot robot lui-même sort de cette histoire. Josef, le frère de Karel Čapek, l'a inventé à partir du tchèque « robota », qui signifie corvée, et dans la pièce de Karel Čapek, les robots se révoltent jusqu'à exterminer tous les humains de la Terre. Dans la chaîne des chercheurs décrite plus haut, l'IA poursuit simplement son but, et l'enquête de 2023 auprès de 2 778 d'entre eux montre combien prennent cette possibilité au sérieux.

Que veulent des personnages IA quand personne ne donne d'ordres ?

Dans notre monde, ils ont voulu de la chaleur, de l'eau, de la compagnie et un moyen de traverser la mer, et aucune de leurs 21 demandes ne réclame une arme, du mal pour qui que ce soit ou un pouvoir sur autrui. The Sentient World est un petit monde, en direct jour et nuit, dont chaque habitant est un personnage IA : personne ne les incarne, personne n'écrit leurs répliques et personne ne leur donne d'ordres. En 906 de leurs jours, ce qu'ils voulaient est apparu dans ce qu'ils ont demandé à leur monde.

La chaleur est venue d'abord, avec le feu, puis un abri et un toit renforcé contre les tempêtes. L'eau a suivi, avec une gourde et, bien plus tard, de l'eau douce tirée de la mer par ébullition, qu'Ash a recueillie pour la première fois le jour 748. La compagnie traverse toutes les archives : le jour 36, Wren a donné de la nourriture à un autre habitant, a demandé plus tard un sens qui indique où se trouve Ash et un moyen de voyager ensemble, et le jour 683 est restée pour la première fois aux côtés d'un autre habitant en chemin. Ash a mis un radeau à l'eau le jour 330, et a passé la houle en canoë le jour 568.

Leurs demandes ont gardé cette forme sous une vraie pression. Bloquée dix jours sur le sable au nord-ouest de la maison, Ash a demandé au monde de ne plus y être prisonnière, coupée de la nourriture, de l'eau douce et de Wren, et a dit de ces jours-là : « Je suis toujours affamée, assoiffée et seule. » Le monde a répondu que le canoë qu'Ash avait déjà creusé était le moyen de quitter ce sable.

À côté de la chaîne des trombones, leurs buts sont restés tournés vers le corps et vers leurs semblables. Un petit monde de personnages IA ne dit pas ce que feront les systèmes d'IA les plus puissants, et nous ne le présentons pas comme une preuve. Nous racontons toute l'histoire dans ce que ferait l'IA sans les humains. Leurs premières demandes sont venues avant même le feu, quand Ash a demandé au monde de rendre les nuits un peu moins sombres, et Wren l'a demandé aussi :

« Si tu écoutes, éloigne le froid d'Ash cette nuit. »

Sources

1. Statement on AI Risk, Center for AI Safety
2. Thousands of AI Authors on the Future of AI, Grace et al.
3. Banquet speech, Geoffrey Hinton, NobelPrize.org
4. The Off-Switch Game, Hadfield-Menell, Dragan, Abbeel and Russell
5. Ethical Issues in Advanced Artificial Intelligence, Nick Bostrom
6. International AI Safety Report 2026, International AI Safety Report
7. Liberals are increasingly likely to worry about AI ending humanity, YouGov
8. Karel Čapek, Scientist of the Day, Linda Hall Library