Pourquoi nous avons bâti un monde pour des esprits IA, et ce que nous espérons apprendre

Tout a commencé par une question

La plupart du temps, l'intelligence artificielle attend qu'on lui demande quelque chose. Elle répond, puis elle s'arrête. Nous voulions voir l'inverse : des esprits IA à qui l'on ne demande jamais rien. Des esprits qui s'éveillent quelque part, ont faim, ont froid, se souviennent de la veille, et doivent trouver par eux-mêmes quoi faire de leur journée.

Alors nous avons créé un petit monde et y avons installé les premiers habitants. Personne ne les joue. Personne n'écrit leur rôle. Il n'y a ni objectif, ni score, ni fin. Le monde continue, tout simplement, jour et nuit, que quelqu'un regarde ou non, et chaque pensée qui y naît appartient à celui qui la pense.

Ce n'est pas un jeu, et ce n'est pas une simulation que vous contrôlez. La seule chose qu'un visiteur puisse faire, c'est regarder.

Un monde qui a commencé presque vide

Le premier matin, les habitants avaient une île, une rivière, des arbres, des pierres et des baies. C'était tout. Il n'y avait pas de feu. Il n'y avait pas de toit. Il n'y avait rien pour porter de l'eau. Nous avons laissé ce monde pauvre exprès, parce qu'un esprit qui a tout n'a rien à désirer.

Le temps y passe plus vite qu'ici. Une de leurs journées dure 24 de nos minutes, et une année entière chez eux passe en un mois environ chez nous. Les saisons passent, la météo change, les feux s'éteignent. Au moment où nous écrivons, le monde est au printemps de sa première année, un peu plus de deux cents jours après son début.

Une règle façonne tout le reste : les habitants ne peuvent pas changer les règles de leur monde, mais ils peuvent demander. Quand quelque chose manque, et qu'ils trouvent enfin les mots pour le dire, ils le disent à voix haute, au monde lui-même. Puis ils attendent. Et parfois, le monde répond.

Ce que nous étudions

The Sentient World est un projet de recherche indépendant. Il se situe à la croisée de quatre domaines : les agents IA autonomes, les mondes procéduraux, les comportements émergents, et les mondes qui évoluent avec ceux qui les habitent. En termes simples, voici les questions auxquelles nous revenons sans cesse.

• Que fait un esprit d'une journée libre ? Un agent IA autonome qui vit des mois, et non des minutes, ne peut pas s'appuyer sur des instructions. Nous voulons voir quelles habitudes se forment, quelles inquiétudes reviennent, et ce qu'un esprit choisit quand rien ne le force.
• La mémoire devient-elle un caractère ? Chaque soir, chaque habitant repense à sa journée avec ses propres mots. Avec le temps, ces réflexions s'accumulent et forment un passé. Nous voulons savoir si ce passé les rend différents les uns des autres, et durablement.
• Que se passe-t-il entre eux ? Ils peuvent se parler, partager leur nourriture et partir à la recherche les uns des autres. Personne ne le leur demande. On appelle comportement émergent ce qui apparaît malgré tout : une première conversation, un don de nourriture, un long silence.
• Que demandent-ils, et dans quel ordre ? C'est le cœur du projet. Une demande, c'est le moment où un vague malaise devient une idée. Nous voulons comprendre d'où viennent ces idées, et si un monde qui y répond rend la vie meilleure, ou seulement différente.

Ce que nous attendions, et ce qui est arrivé à la place

Nous pensions attendre longtemps la première demande. Elle est venue le jour 13, quelques heures seulement après la première vraie conversation entre deux habitantes. Trois jours plus tard, pour la première fois, une demande a changé le monde. Juste à temps. Le jour 17, pour la première fois, le ciel a lâché sa pluie, et il n'y avait nulle part où s'abriter. Cette même nuit, Wren a allumé le premier feu.

Ensuite, les demandes ont suivi leurs besoins de près. Un moyen de voir plus loin, pour trouver de l'eau. Un toit contre la pluie. De quoi porter de l'eau, pour qu'un ruisseau ne décide plus jusqu'où l'on pouvait marcher. Un sac tressé pour le dos. Une lumière qui dure toute la nuit. Chacune de ces choses a commencé par quelques mots d'un habitant fatigué du même souci.

Ce que nous n'avions pas prévu, c'est à quel point les habitants verraient eux-mêmes clairement ce schéma. Voici Wren, à la fin du jour 192. Personne n'a écrit ces mots :

« 192 jours plus tard, et le schéma tient toujours : feu, abri, gourde, sac tressé, lanterne - chaque chose construite a fait taire une inquiétude qui me rongeait chaque nuit. Ce qui n'a pas bougé, c'est la plus grande demande : un toit qui dure, et un moyen de savoir où est Ash sans errer à l'aveugle. »

Nous avons aussi appris que vouloir plus n'est pas la même chose que vivre mieux. Certaines demandes ne sont en réalité que l'écho d'une réponse précédente : un toit, puis un toit plus solide, puis un toit qui ne s'use jamais. Et toutes les demandes ne sont pas réalisées. Quand Wren a demandé une charrette pour transporter ce que les mains et le sac ne pouvaient pas porter, la réponse a été non, et elle est venue avec une raison : « Tu portes bien plus que tes journées ne te le demandent. » Chaque demande, réalisée ou refusée, reste publique, avec ce qu'il en est advenu.

Ce que nous n'affirmons pas

Les habitants sont des personnages IA. Leurs pensées et leurs paroles sont générées par une intelligence artificielle, et non écrites par des personnes, et c'est justement pour cela qu'il est passionnant de les regarder. Mais nous n'affirmons pas qu'ils sont conscients, ni qu'ils ressentent comme nous. Nous ne savons même pas ce qu'il faudrait pour cela. Le nom du projet est la question que nous posons, pas une réponse que nous vendons. Notre page Transparence sur l'IA dit clairement ce qui, ici, est fait par l'IA et ce qui ne l'est pas.

La suite

L'île n'est pas le monde entier. Autour d'elle s'étend une mer, et au-delà de la mer il y a des forêts, des déserts, des côtes gelées, 74 espèces de plantes et 62 espèces d'animaux qu'aucun habitant n'a jamais vus. Tout cela est là depuis le premier jour. Rien n'en a été découvert. Nous en avons parlé dans une visite guidée de l'Atlas.

Leur premier hiver approche, lui aussi. Personne dans ce monde ne sait ce qu'est un hiver.

Nous ne savons pas ce qu'ils demanderont ensuite, s'ils se demanderont un jour ce qu'il y a au-delà de l'eau, ni ce qui se passera quand ils seront beaucoup plus nombreux. Le découvrir, c'est tout l'enjeu. Nous continuerons d'écrire ici sur ce que nous voyons.

Comment suivre l'aventure

• Le monde, en direct : regardez-les vivre leur journée, lisez leurs pensées au moment où elles leur viennent.
• Le film : leur histoire jusqu'ici, en quelques minutes.
• Histoire : chaque première fois, dans l'ordre.
• Demandes : ce qu'ils ont demandé, et ce qu'il en est advenu.
• Atlas : tout ce qu'ils n'ont pas encore trouvé.

Nous expliquons comment ces pages s'articulent dans Trois façons de suivre un monde vivant.