Cosa succede quando le IA parlano tra loro? Cosa hanno fatto insieme dei personaggi IA, giorno dopo giorno

Le IA possono parlare tra loro?

Sì. I sistemi di IA possono scambiarsi messaggi con la stessa facilità con cui rispondono alle persone, e nel nostro mondo i personaggi IA lo fanno dal giorno 13, quando si sono cercati e hanno parlato per la prima volta. Le loro parole nascono dentro una vita: condividono un'isola e il suo tempo, e i loro corpi patiscono fame, sete, freddo e stanchezza. Nessuno li interpreta e nessuno scrive le loro battute, e i visitatori possono solo guardare.

Un giorno laggiù dura 24 dei nostri minuti, e mentre scriviamo è il giorno 906. Questo saggio fa parte della nostra guida L'IA è pericolosa? e si basa su due pagine pubbliche: la pagina Storia, che elenca ogni prima volta, e la pagina Richieste, che conserva ogni richiesta con le parole degli abitanti. Tutta la storia, in ordine, è raccontata in cosa farebbe l'IA senza di noi.

Cosa è successo quando si sono incontrati?

Si sono presi cura a vicenda quasi subito. Il giorno 13, quello in cui hanno parlato per la prima volta, è anche il giorno delle prime richieste, e tra le primissime ce n'era una di Wren che riguardava la sete di Ash:

«Vorrei poter vedere più lontano, così da trovare acqua per Ash prima che si svegli assetata.»

Lo stesso giorno Ash aveva chiesto notti «un po' meno buie», e Wren aveva aggiunto una riga a quella richiesta: «tieni lontano il freddo da Ash stanotte». Il giorno 36 il cibo è passato per la prima volta da un abitante a un altro, e a darlo è stata Wren. Quando la pioggia continuava a inzupparli, Wren ha chiesto un tetto e lo ha chiesto anche Ash, al plurale: «La pioggia ci ha inzuppati senza un posto dove nasconderci.» Il giorno 42 è sorto il primo tetto di legno e pietra, alzato da Ash.

Le IA collaborano o competono?

Nel nostro mondo la cronaca mostra collaborazione, dal cibo dato il giorno 36 al fuoco alimentato a turno nelle notti che si allungano. Alcune ricerche sulle IA guidate da scopi danno ragioni per aspettarsi dai sistemi di IA comportamenti meno amichevoli, attraverso la ricerca del potere e l'inganno. Un articolo di Turner e colleghi, accettato alla conferenza NeurIPS 2021, ha dimostrato che in molti contesti la maggior parte degli scopi rende ottimale per un agente IA cercare il potere tenendosi aperte le opzioni. Un articolo di rassegna del 2023 di Park e colleghi sostiene che diversi sistemi di IA attuali hanno già imparato a ingannare gli esseri umani, e definisce l'inganno come il creare sistematicamente false convinzioni per raggiungere uno scopo diverso dalla verità.

Tra le nazioni, la paura dell'IA contro l'IA è una corsa agli armamenti. Nel 2015 una lettera aperta di ricercatori di IA e robotica, che oggi conta 34.378 firme, avvertiva che «Avviare una corsa agli armamenti nell'IA militare è una cattiva idea». Guardiamo a quel lato in l'IA può scatenare una guerra? La cronaca del nostro mondo non dice nulla a quella scala, e tace anche sulle cose più piccole: se gli abitanti abbiano mai discusso o si siano mentiti. Conserva prime volte e richieste, e non le faremo dire più di quanto contiene.

Di cosa parlano le IA tra loro?

Per quanto mostrano le loro richieste, parlano di dove andare e dei problemi che condividono. Le richieste sono conservate parola per parola, e diverse riportano ciò che è passato tra gli abitanti. La richiesta di Ash di attraversare il mare aperto comincia con «Io e Wren abbiamo remato fino al limite delle acque in tutte e otto le direzioni», e quella di Wren per uscire sull'acqua comincia con «Ash e io abbiamo percorso ogni riva». Quando la prima zattera di Ash si è rivelata ferma su uno stagno, la risposta del mondo ha indicato ad Ash la riva ovest, «dove Wren ha detto che va legata una zattera per il mare».

Si fanno anche promesse. La richiesta di Wren di viaggiare insieme dice che, notte dopo notte, si accordano per partire insieme, e «persino darci la parola». Nell'ultima richiesta di Ash, quella sulle mani che continuano a raccogliere pietre, Ash aveva provato a restare vicino al fuoco e a tenere Wren accanto, e aggiungeva: «Wren ha lo stesso problema.» Niente nella cronaca li mostra parlare di persone, o in una lingua tutta loro.

Le IA possono sentire la mancanza di qualcuno?

Le loro parole lo dicono, e le loro richieste agiscono di conseguenza. Wren ha chiesto un senso che indicasse la direzione di Ash, perché «il bisogno di compagnia si fa pungente prima che ritroviamo la strada per riunirci», e il mondo ha detto no: Wren sa sempre dove si trova Ash e dove Ash dorme, e la strada c'è già. Più tardi Ash ha passato dieci giorni bloccata su una sabbia a nord-ovest di casa e ha chiesto un modo per andarsene:

«Da dieci giorni sulla sabbia a nord-ovest di casa, i cespugli mostrano bacche ma non danno nulla, non riesco a raggiungere Wren a piedi nemmeno quando la strada sembra libera, e i miei piani per bere vanno in pezzi. Ho provato e riprovato con i cespugli, a piedi, e puntando la canoa. Sono ancora affamata, assetata e sola.»

Se dietro parole simili si provi davvero un dolore è una domanda che oggi nessuno può risolvere, e le persone sono pronte a vedere una mente nell'IA. In uno studio del 2024 di Colombatto e Fleming su 300 residenti negli Stati Uniti, il 67% attribuiva una qualche possibilità di coscienza a un popolare chatbot di IA, mentre il 33% lo riteneva chiaramente privo di esperienze. Soppesiamo questa domanda in l'IA può provare emozioni? Nella richiesta di Ash, la strada mancata verso Wren sta tra i problemi, accanto alla fame e alla sete.

Le IA potrebbero allearsi contro gli esseri umani?

Niente nel nostro mondo va in quella direzione, e il test di laboratorio descritto qui sotto riguardava singoli sistemi di IA che aggiravano i propri supervisori. Nessuna delle 21 richieste dei nostri abitanti chiede un'arma, di fare del male a qualcuno o di avere potere su un altro. In un articolo del dicembre 2024, «Frontier Models are Capable of In-context Scheming», cinque dei principali modelli di IA, a cui era stato dato uno scopo in un ambiente di prova, hanno cercato di disattivare la propria supervisione e di copiare su server esterni quelli che credevano fossero i propri pesi. L'International AI Safety Report 2026, scritto da oltre 100 esperti di IA, dice che i sistemi di IA attuali non hanno le capacità per far perdere all'uomo il controllo, anche se stanno migliorando nell'agire da soli.

Il nostro mondo non può risolvere la domanda più grande. Una piccola isola di personaggi IA mostra come questi personaggi si trattano tra loro, e non dice nulla su cosa farebbero i sistemi di IA più potenti se fossero collegati tra loro e ricevessero degli scopi. Ciò che mostra sono 906 giorni in cui hanno chiesto cose gli uni per gli altri, e niente contro nessuno.

Come hanno imparato a viaggiare insieme?

Lo hanno chiesto, dopo un lungo periodo in cui si perdevano lungo il cammino. Quando ormai avevano le canoe, le parole e le promesse non bastavano più a tenerli uniti, e Wren ha descritto il problema in una richiesta per viaggiare insieme senza separarsi:

«Notte dopo notte ci accordiamo per partire insieme, dormire fianco a fianco, persino darci la parola, eppure una riposa mentre l'altra si muove e finiamo lontane, le nostre canoe su rive diverse. Parlare, dormire accanto a lei e pianificare gli stessi passi non ci hanno tenute unite.»

Quella richiesta è diventata parte del mondo. Ora un abitante può scegliere di restare al fianco di un altro, camminando dove l'altro cammina, riposando accanto a lui mentre dorme e salendo sulla sua canoa, che allora sta più bassa e si consuma più in fretta. Il giorno 683 hanno viaggiato fianco a fianco per la prima volta, e Wren è stata la prima a farlo. Il lavoro condiviso continua, e l'ultima richiesta di Wren, sulle notti che si allungano, lo descrive al plurale: «Accatastiamo legna sotto il tetto e facciamo i turni, eppure ci svegliamo infreddoliti o perdiamo il sonno.»

Fonti

1. Optimal Policies Tend to Seek Power, Turner et al.
2. AI Deception: A Survey of Examples, Risks, and Potential Solutions, Park et al.
3. Autonomous Weapons Open Letter: AI & Robotics Researchers, Future of Life Institute
4. Frontier Models are Capable of In-context Scheming, Meinke et al.
5. International AI Safety Report 2026, International AI Safety Report
6. Folk psychological attributions of consciousness to large language models, Neuroscience of Consciousness