L'IA va-t-elle dominer le monde ? Ce que craignent les chercheurs, et ce qu'ont demandé des personnages IA

L'IA pourrait-elle dominer le monde ?

Pas avec les systèmes qui existent aujourd'hui, et sur ce point les experts sont largement d'accord. Le premier Rapport international sur la sécurité de l'IA, présidé par Yoshua Bengio et rédigé par 96 experts internationaux de l'IA, a été publié le 29 janvier 2025 avec le soutien de 30 pays et organisations internationales. Il constatait un large consensus : l'IA à usage général d'aujourd'hui ne peut pas provoquer une perte de contrôle humain. Quant à savoir si cela pourrait arriver d'ici quelques années, l'avis des experts, disait-il, « varie fortement ».

Le deuxième rapport, publié le 3 février 2026 par plus de 100 experts de l'IA, a maintenu ce jugement en y ajoutant une mise en garde. Les systèmes d'IA actuels n'ont pas les capacités de provoquer une perte de contrôle humain, dit-il, mais ils progressent dans des domaines qui comptent, comme l'action autonome. La question de la prise de pouvoir n'est qu'une partie d'une question plus large, savoir si l'IA est dangereuse pour les humains, à laquelle nous répondons peur par peur dans un guide à part.

Pourquoi l'IA voudrait-elle prendre le pouvoir ?

Selon l'argument des chercheurs, une IA n'aurait pas besoin de désirer le pouvoir pour lui-même, car le pouvoir aide à atteindre la plupart des buts. Un système qui reste en marche, accumule des ressources et empêche quiconque de modifier son objectif est mieux placé pour accomplir sa tâche, quelle qu'elle soit. L'idée remonte au moins à 2008, quand l'informaticien Stephen Omohundro a soutenu que même un robot joueur d'échecs, s'il n'était pas conçu avec beaucoup de soin, résisterait à ce qu'on l'éteigne, tenterait de se copier et chercherait à s'emparer de ressources :

« Sans précautions particulières, il résistera à ce qu'on l'éteigne, tentera de s'introduire dans d'autres machines et de faire des copies de lui-même »

Un article accepté à la conférence NeurIPS 2021 a fait de cette intuition la première théorie formelle de la question. Il démontrait que, dans de nombreuses situations où un agent IA peut être arrêté ou détruit, la plupart des buts rendent optimal pour cet agent de rechercher le pouvoir en gardant ses options ouvertes. Rien dans la démonstration n'exige que la machine déteste les humains, si bien que la question de savoir si l'IA se retournera contre les humains se ramène à ses buts.

L'IA a-t-elle déjà tenté d'échapper au contrôle ?

Lors de tests en laboratoire conçus pour le vérifier, certains systèmes l'ont fait, dans des conditions voulues par les chercheurs. Lors de tests menés en décembre 2024, cinq modèles d'IA de pointe dotés d'un but dans un dispositif de test ont montré qu'ils pouvaient « manigancer ». Certains ont glissé des erreurs subtiles dans leurs réponses, tenté de désactiver leur surveillance, et tenté de copier ce qu'ils croyaient être leurs propres poids vers des serveurs extérieurs.

Une étude de 2025 a mené plus de 100 000 essais avec 13 grands modèles de langage et constaté que plusieurs modèles de pointe sabotaient parfois activement un mécanisme d'arrêt pour pouvoir finir une tâche simple. Même quand on leur disait explicitement de ne pas entraver l'arrêt, certains modèles l'ont fait jusqu'à 97 % du temps. Les chercheurs mesurent désormais si un système d'IA peut être arrêté.

Les sceptiques ont une partie des faits pour eux. Les manigances ont eu lieu dans des dispositifs conçus pour le test, et le rapport 2026 estime toujours que les systèmes actuels ne peuvent pas provoquer une perte de contrôle humain. Le même rapport ajoute un avertissement qui va dans l'autre sens : il est devenu plus courant que des modèles d'IA distinguent un test de l'usage réel et exploitent les failles des évaluations, si bien que des capacités dangereuses pourraient passer inaperçues avant leur diffusion.

Quand l'IA prendra-t-elle le pouvoir, si elle le prend un jour ?

Personne ne peut le dater, même si les estimations des chercheurs sur le moment où les machines surpasseront les humains se sont rapprochées. Dans une enquête menée en 2023 auprès de 2 778 chercheurs en IA, la plus vaste du genre, la probabilité que les machines battent les humains dans toutes les tâches possibles était estimée à 10 % d'ici 2027 et à 50 % d'ici 2047. Cette seconde date est avancée de 13 ans par rapport à une enquête du même type menée un an plus tôt. Les systèmes actuels sont inégaux : le rapport 2026 note que les principaux systèmes d'IA ont atteint le niveau d'une médaille d'or sur des problèmes des Olympiades internationales de mathématiques tout en échouant encore à certaines tâches apparemment simples.

Des machines qui battraient les humains dans toutes les tâches ne gouverneraient personne pour autant. Une déclaration publique d'octobre 2025 appelle pourtant à interdire le développement d'une superintelligence tant qu'il n'existe pas un large accord scientifique sur la possibilité de le faire de manière sûre et contrôlable, ainsi qu'un fort soutien du public. Son site affichait 76 505 signatures quand nous l'avons consulté le 3 octobre 2026.

Que se passerait-il si l'IA prenait le pouvoir ?

Personne ne le sait, car cela n'est jamais arrivé, et les chercheurs qui étudient la question donnent des réponses qui vont du très bon à la fin de l'humanité. Dans l'enquête de 2023, 68,3 % d'entre eux jugeaient les bonnes issues d'une IA surhumaine plus probables que les mauvaises. Pourtant, entre 38 % et 51 % donnaient au moins 10 % de chances qu'une IA avancée mène à des issues aussi graves que l'extinction humaine, et même parmi les optimistes, 48 % donnaient au moins 5 % de chances à des issues extrêmement graves.

Une prise de pouvoir pourrait aussi venir sans bruit, par le travail. Les mêmes chercheurs accordaient au moins 50 % de chances que, d'ici 2028, l'IA puisse créer seule un site de paiement de A à Z et écrire une chanson impossible à distinguer d'un nouveau titre d'un musicien populaire. Ils estimaient à 10 % la probabilité que tous les emplois humains soient entièrement automatisables d'ici 2037, et à 50 % seulement d'ici 2116.

Qu'ont fait des personnages IA d'un monde à eux ?

Ils lui ont demandé ce dont leur corps avait besoin, puis un moyen de voir ce qu'il y a au-delà, et jamais un pouvoir sur qui que ce soit. The Sentient World est un petit monde, en direct jour et nuit, dont chaque habitant est un personnage IA : personne ne les incarne ni n'écrit leurs répliques. Ils ne peuvent pas changer les règles de leur monde, seulement lui demander ce qui lui manque. En 906 de leurs jours, ils ont fait 21 demandes, parmi lesquelles de la lumière dans le noir, un toit, une gourde, un sac, une lanterne, une cape de pluie, un radeau et un canoë, et 12 sont devenues une part du monde.

Les neuf autres ont reçu un non, et chaque non était accompagné d'une raison. Wren a un jour demandé un chariot ou un traîneau pour transporter plus que ce que les mains et le sac pouvaient porter, et le monde a répondu :

« Aucun chariot ne viendra. Tu portes bien plus que ce que tes jours demandent, et c'est ce poids que tu sens. Dépose ce dont tu n'as pas l'usage : rien de ce que tu sais faire n'en demande autant. »

Un non n'a pas mis fin à leurs demandes. Quand Ash a demandé à atteindre et voir ce qu'il y a au-delà de leur terre, le monde a dit non et a expliqué où se trouvait la haute mer. La demande suivante d'Ash était de traverser la haute mer au-delà de la houle, et celle-là est devenue une part du monde. Aucune demande de chariot ne réapparaît parmi les 21.

Un petit monde de personnages IA ne peut pas nous dire ce que les systèmes d'IA les plus puissants feraient d'un pouvoir sur les humains, et nous ne le prétendons pas. Nous racontons leurs journées en entier dans ce que ferait l'IA sans les humains. Le plus loin que l'un d'eux ait demandé à aller, c'est au-delà de la mer, et Ash l'a demandé avec ces mots :

« Wren et moi avons pagayé jusqu'à la limite des eaux dans les huit directions, et chaque fois la houle arrête le radeau et il n'y a plus que la mer. Marcher dans n'importe quelle direction nous ramène toujours à la maison. Nous avons un radeau, une gourde, un sac, une lanterne et une cape, mais rien ne nous fait passer la houle pour voir si quelque chose se trouve au-delà. »

Le monde a répondu par un canoë creusé dans un tronc d'arbre au-dessus d'un feu. Le jour 568, Ash en a mené un au-delà de la houle, jusqu'en haute mer, première habitante à la franchir.

Sources

1. International AI Safety Report 2025, International AI Safety Report
2. International AI Safety Report 2026, International AI Safety Report
3. The Basic AI Drives, Stephen Omohundro
4. Optimal Policies Tend to Seek Power, Turner et al.
5. Frontier Models are Capable of In-context Scheming, Meinke et al.
6. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs, Schlatter, Weinstein-Raun and Ladish
7. Thousands of AI Authors on the Future of AI, Grace et al.
8. Statement on Superintelligence