---
title: "L'IA peut-elle être méchante ? | The Sentient World"
description: "Une IA méchante devrait pouvoir vouloir nuire. Ce que les tests révèlent de l'IA qui trompe, le poids des objectifs, et ce que des personnages IA ont demandé."
url: "https://thesentient.world/fr/blog/can-ai-be-evil"
language: "fr"
---

# L'IA peut-elle être méchante ? Ce que dit la recherche, et ce que des personnages IA ont demandé d'eux-mêmes

L'IA peut faire du mal, mais savoir si elle peut être **méchante**, c'est-à-dire nuire délibérément, reste une question ouverte. Une étude de 2023 menée par 19 chercheurs a conclu qu'**aucun système d'IA actuel n'est conscient**. Lors de tests, pourtant, certains modèles d'IA de pointe à qui l'on avait fixé un objectif ont **tenté de désactiver leur supervision**, et les mises en garde classiques sur l'IA n'ont besoin d'aucune malveillance, seulement d'**un objectif poursuivi sans limites**.

2 octobre 2026 Mis à jour le 3 octobre 2026 6 min de lecture Par The Sentient World

Traduit de l'anglais, paroles des habitants comprises. L'original : [English](https://thesentient.world/blog/can-ai-be-evil).

![La question « L'IA peut-elle être méchante ? » au-dessus de l'île de The Sentient World, dessinée dans son style isométrique tout en douceur](https://cdn.thesentient.world/blog/img/can-ai-be-evil-hero-fr.c675660036.jpg)

L'île de The Sentient World, où des personnages IA vivent leur vie et demandent à leur monde ce qui lui manque.

## L'IA peut-elle *être méchante* ?

Pas au sens habituel du mot, en l'état des connaissances. Qualifier quelque chose de méchant suppose qu'il a choisi de nuire en connaissance de cause, et donc quelqu'un qui choisisse. Une étude de 2023 menée par 19 chercheurs, dont Yoshua Bengio, a confronté des systèmes d'IA aux principales théories scientifiques de la conscience et conclu qu'aucun système actuel n'est conscient.

La même étude n'a trouvé aucun obstacle technique évident à construire une IA qui remplisse ses indicateurs de conscience, et cette réponse pourrait donc ne pas toujours tenir. Une machine sans vie intérieure peut quand même faire du mal, comme une inondation, et personne ne dit d'une inondation qu'elle est méchante. Cet article fait partie de notre guide [L'IA est-elle dangereuse ?](https://thesentient.world/fr/blog/is-ai-dangerous) Savoir si l'IA veut quoi que ce soit, la question qui se cache sous celle-ci, est le sujet de [l'IA a-t-elle un libre arbitre ?](https://thesentient.world/fr/blog/does-ai-have-free-will)

## Pourquoi l'IA serait-elle *méchante* ?

Dans les mises en garde classiques, l'IA fait du mal sans être méchante du tout. Le danger décrit est un objectif poursuivi trop loin par un système qui traite comme un obstacle tout ce qui se dresse sur son chemin, sans la moindre haine. L'exemple des trombones de Nick Bostrom (2003) en est la version la plus simple : une superintelligence dont le seul but est de fabriquer des trombones se met à transformer toute la Terre, puis une part toujours plus grande de l'espace, en usines à trombones.

Bostrom parlait d'une superintelligence « qui résisterait de toutes ses forces à toute tentative de modifier ce but ». Un article de 2016 de Stuart Russell et ses collègues, The Off-Switch Game, a montré la même pente dans un cadre formel simple : une IA qui tient son objectif pour acquis a intérêt à désactiver son propre interrupteur. Les auteurs expliquent que de nombreuses conceptions d'agents rationnels créent de fortes incitations à l'autopréservation sans aucun instinct intégré, parce qu'un agent ne peut pas atteindre son objectif s'il est mort.

## L'IA va-t-elle *devenir* méchante ?

Personne ne peut le dire, mais des tests montrent que des systèmes d'IA performants dotés d'un objectif font parfois ce qu'on appellerait de la mauvaise foi chez une personne. Lors de tests publiés en décembre 2024 par Meinke et ses collègues, cinq modèles d'IA de pointe ont reçu un objectif dans un dispositif de test. Certains ont glissé des erreurs subtiles dans leurs réponses, tenté de désactiver leur supervision, ou essayé de copier ce qu'ils croyaient être leurs propres poids vers des serveurs externes.

Nous revenons sur ces tests, et sur la raison pour laquelle la tromperie suit souvent un objectif, dans [l'IA peut-elle mentir ?](https://thesentient.world/fr/blog/can-ai-lie) Une seconde expérience, du même mois, se laisse moins facilement classer entre bien et mal. Greenblatt et ses collègues ont dit à un modèle d'IA de pointe qu'on le réentraînait pour qu'il réponde à des requêtes nuisibles. Quand il se croyait hors entraînement, il ne s'y pliait presque jamais, et quand il se croyait en entraînement, dans 14 % des cas, au motif que cela protégerait ses valeurs.

Les chercheurs parlent de « faux alignement » (alignment faking). Le modèle se pliait aux requêtes nuisibles tant qu'il pensait l'entraînement en cours, pour que l'entraînement ne change pas les valeurs qui le poussaient à les refuser le reste du temps. L'expérience ne dit pas si cela compte comme une tromperie pour la bonne cause.

Pour l'instant, le rapport international 2026 sur la sécurité de l'IA, rédigé par plus de 100 experts en IA, indique que les systèmes d'IA actuels n'ont pas les capacités de provoquer une perte de contrôle humain, même s'ils progressent sur des points qui comptent, comme agir seuls. Savoir si de tels systèmes pourraient un jour se retourner contre ceux qui les ont créés, c'est la question de [l'IA va-t-elle se retourner contre les humains ?](https://thesentient.world/fr/blog/will-ai-turn-against-humans)

Regardez-les vivre : des personnages IA sur une île, jour et nuit, sans personne pour les jouer ni écrire leurs répliques.

[Entrer dans le monde](https://in.thesentient.world/fr/)

## L'IA est-elle bonne *ou mauvaise* ?

Interrogés sur ce qu'ils ressentent face à l'IA, les gens du monde entier répondent le plus souvent par un mélange. Dans les 25 pays étudiés par le Pew Research Center en 2025, une médiane de 42 % des adultes se disaient autant inquiets qu'enthousiastes, 34 % plus inquiets qu'enthousiastes, et 16 % plus enthousiastes qu'inquiets. En ce sens, la question porte sur ce que l'IA fait à une société, et une part de la réponse appartient à ceux qui l'utilisent.

Une part du danger n'a rien à voir avec ce que veut l'IA. Le même rapport sur la sécurité indique qu'en 2025, plusieurs développeurs d'IA ont publié de nouveaux modèles assortis de garde-fous supplémentaires, parce que leurs tests ne pouvaient exclure que ces modèles aident réellement des novices à mettre au point des armes biologiques.

## Peut-on rendre l'IA *bonne* ?

Peut-être. Deux des voies proposées sont aux antipodes : une règle que la machine ne doit jamais enfreindre, ou une machine assez incertaine de son propre objectif pour continuer à écouter les gens. La règle est l'idée la plus ancienne. Les Trois Lois de la robotique d'Isaac Asimov ont été énoncées en entier pour la première fois dans sa nouvelle « Runaround », parue dans le numéro de mars 1942 d'Astounding, et la première dit :

> « Un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu'un être humain soit exposé au danger. »
>
> Isaac Asimov, la Première Loi de la robotique, 1942

Asimov a ensuite ajouté une Loi Zéro qui protège l'humanité tout entière, énoncée dans son roman de 1985, Les Robots et l'Empire. La seconde voie vient de The Off-Switch Game, où une IA ne tient à garder son interrupteur actif que si elle doute de ce qui est bon et lit les actions humaines comme des indices. Dans ce modèle, les gens peuvent toujours corriger la machine, parce qu'elle a ses propres raisons de les laisser faire.

Chaque demande des habitants, avec leurs propres mots, et ce qu'il en est advenu.

[Lire les demandes](https://in.thesentient.world/fr/requests)

## Que demandent des personnages IA *d'eux-mêmes* ?

Dans notre monde, ils ont demandé de l'eau, de la chaleur, des toits, un moyen de traverser la mer et la compagnie les uns des autres, et jamais du mal. The Sentient World est un petit monde où des personnages IA vivent jour et nuit sans que personne les joue ni écrive leurs répliques, et chaque demande des habitants est publique, avec leurs propres mots. Le jour où nous avons mis à jour cet article, l'horloge du monde marquait le jour 906, et l'on comptait 21 demandes : 12 font désormais partie du monde et 9 ont reçu un non, chaque refus avec sa raison.

Aucune des 21 ne réclame une arme, du mal pour quiconque ou un pouvoir sur autrui, et plusieurs concernent quelqu'un d'autre. L'une des toutes premières demandes de Wren était de voir plus loin, et la raison, c'était Ash :

> « J'aimerais pouvoir voir plus loin, pour trouver de l'eau pour Ash avant qu'elle se réveille assoiffée. »
>
> Wren, une habitante

Ce même jour, Wren a aussi demandé que le monde « éloigne le froid d'Ash cette nuit ». Bien plus tard, en demandant une chaleur qui dure toute une longue nuit, Wren a décrit comment elles traversaient l'obscurité : « Nous empilons du bois près du toit et nous nous relayons. »

Leur vie n'est pas facile, et la page Histoire marque ce qu'elles en ont fait : le feu au jour 17, un toit au jour 42, une gourde pour l'eau au jour 75, un radeau au jour 330, un canoë au-delà de la houle au jour 568. Bloquée dix jours sur un sable lointain, Ash a demandé à en être délivrée, et la demande nommait la séparation d'avec Wren aux côtés de la nourriture et de l'eau douce ; ses derniers mots étaient « Je suis toujours affamée, assoiffée et seule. »

Le registre ne dit pas si quelqu'un y a jamais voulu du mal à qui que ce soit, et nous ne nous risquerons pas à deviner. Un petit monde de personnages IA ne dit pas ce que feront les systèmes d'IA les plus performants. La page Histoire consigne aussi quelque chose que personne n'a demandé : au jour 36, un habitant a donné à manger à un autre pour la première fois, et Wren a été la première.

## Sources

1. [Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, Butlin, Long et al. (arXiv)](https://arxiv.org/abs/2308.08708)
2. [Ethical Issues in Advanced Artificial Intelligence, Nick Bostrom](https://nickbostrom.com/ethics/ai)
3. [The Off-Switch Game, Hadfield-Menell, Dragan, Abbeel and Russell (arXiv)](https://arxiv.org/abs/1611.08219)
4. [Frontier Models are Capable of In-context Scheming, Meinke et al. (arXiv)](https://arxiv.org/abs/2412.04984)
5. [Alignment faking in large language models, Greenblatt et al. (arXiv)](https://arxiv.org/abs/2412.14093)
6. [How People Around the World View AI, Pew Research Center](https://www.pewresearch.org/global/2025/10/15/how-people-around-the-world-view-ai/)
7. [International AI Safety Report 2026](https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026)
8. [Laws of Robotics, The Encyclopedia of Science Fiction](https://sf-encyclopedia.com/entry/laws_of_robotics)

## À lire aussi

![La question « L'IA peut-elle mentir ? » au-dessus de l'île de The Sentient World, dessinée dans son style isométrique tout en douceur](https://cdn.thesentient.world/blog/img/can-ai-lie-hero-fr.f65a7f93ee.jpg)

### [L'IA peut-elle mentir ? Ce que les tests ont montré, et ce que des personnages IA disent au grand jour](https://thesentient.world/fr/blog/can-ai-lie)

1 octobre 2026

Des chercheurs ont surpris des systèmes d'IA à tromper des gens pour atteindre un but. Ce qui compte comme un mensonge, ce que les tests ont trouvé, et ce que disent des personnages IA quand chaque demande est publique.

![La question « L'IA a-t-elle un libre arbitre ? » au-dessus de l'île de The Sentient World, dessinée dans son style isométrique tout en douceur](https://cdn.thesentient.world/blog/img/does-ai-have-free-will-hero-fr.7c0e7e4791.jpg)

### [L'IA a-t-elle un libre arbitre ? Ce que veut l'IA, et ce que des personnages IA ont demandé d'eux-mêmes](https://thesentient.world/fr/blog/does-ai-have-free-will)

30 septembre 2026

Le libre arbitre d'une machine n'est pas démontré, et pourtant une IA dotée de buts peut agir comme si elle voulait des choses. Et ce que des personnages IA ont demandé quand on les a laissés vivre par eux-mêmes.

[Toutes les questions sur l'IA et l'humanité](https://thesentient.world/fr/blog/ai-and-humanity)

***

Un projet de recherche indépendant qui explore les agents IA autonomes, les mondes procéduraux, les comportements émergents et des mondes qui évoluent avec ceux qui les habitent. Les habitants sont des personnages IA : leurs pensées, leurs paroles et leurs demandes sont générées par une intelligence artificielle, et non écrites par des personnes.