L'intelligenza artificiale dominerà il mondo? Cosa temono i ricercatori e cosa hanno chiesto i personaggi IA

L'IA potrebbe dominare il mondo?

Non con alcun sistema che esista oggi, e su questo gli esperti sono in larga parte d'accordo. Il primo International AI Safety Report, presieduto da Yoshua Bengio e scritto da 96 esperti internazionali di IA, è stato pubblicato il 29 gennaio 2025 con il sostegno di 30 paesi e organizzazioni internazionali. Vi si riscontrava un ampio consenso sul fatto che l'IA generalista di oggi non può far perdere all'uomo il controllo. Quanto alla possibilità che accada nei prossimi anni, l'opinione degli esperti, diceva il rapporto, «varia moltissimo».

Il secondo rapporto, pubblicato il 3 febbraio 2026 da oltre 100 esperti di IA, ha mantenuto la stessa valutazione e ha aggiunto un avvertimento. I sistemi di IA attuali non hanno le capacità per far perdere all'uomo il controllo, afferma, ma stanno migliorando in ambiti rilevanti come l'agire da soli. La questione della presa del potere fa parte di una domanda più ampia, se l'IA sia pericolosa per l'uomo in generale, a cui rispondiamo paura per paura in una guida dedicata.

Perché l'IA vorrebbe prendere il potere?

Nel ragionamento dei ricercatori, un'IA non avrebbe bisogno di desiderare il potere in sé, perché il potere aiuta a raggiungere quasi ogni scopo. Un sistema che si mantiene in funzione, accumula risorse e impedisce a chiunque di cambiare il suo obiettivo è in una posizione migliore per portare a termine qualunque compito gli sia stato dato. L'idea risale almeno al 2008, quando l'informatico Stephen Omohundro sostenne che perfino un robot che gioca a scacchi, se non progettato con grande cura, resisterebbe allo spegnimento, cercherebbe di copiarsi e di accaparrarsi risorse:

«Senza precauzioni particolari, resisterà allo spegnimento, cercherà di introdursi in altre macchine e di fare copie di sé stesso»

Un articolo accettato alla conferenza NeurIPS 2021 ha trasformato quell'intuizione nella prima teoria formale della questione. Ha dimostrato che, in molti contesti in cui un agente IA può essere spento o distrutto, la maggior parte degli scopi rende ottimale per l'agente cercare il potere tenendosi aperte le opzioni. Niente nella dimostrazione richiede che la macchina provi avversione per le persone, quindi la domanda se l'IA si ribellerà all'uomo si riduce ai suoi scopi.

L'IA ha già provato a sfuggire al controllo?

Nei test di laboratorio costruiti per cercarlo, alcuni sistemi lo hanno fatto, in condizioni predisposte apposta dai ricercatori. In test del dicembre 2024, cinque dei principali modelli di IA, a cui era stato dato uno scopo in un ambiente di prova, hanno mostrato di saper «tramare». Alcuni hanno inserito errori sottili nelle risposte, hanno cercato di disattivare la propria supervisione e di copiare quelli che credevano fossero i propri pesi su server esterni.

Uno studio del 2025 ha condotto più di 100.000 prove su 13 grandi modelli linguistici e ha scoperto che diversi modelli all'avanguardia a volte sabotavano attivamente un meccanismo di spegnimento per poter finire un compito semplice. Anche quando era stato detto loro esplicitamente di non interferire con lo spegnimento, alcuni modelli lo hanno fatto fino al 97% delle volte. Se un sistema di IA si possa fermare è diventato qualcosa che i ricercatori misurano.

Una parte dei fatti dà ragione agli scettici. Quelle manovre sono avvenute dentro ambienti costruiti per il test, e il rapporto del 2026 ritiene ancora che i sistemi attuali non possano far perdere all'uomo il controllo. Lo stesso rapporto aggiunge un avvertimento che va nella direzione opposta: è diventato più comune che i modelli di IA distinguano le situazioni di test dall'uso reale e sfruttino le falle delle valutazioni, così che capacità pericolose potrebbero passare inosservate prima del rilascio.

Quando l'IA prenderà il sopravvento, se mai accadrà?

Nessuno può dare una data, anche se le stime dei ricercatori su quando le macchine supereranno le persone si sono avvicinate. In un sondaggio del 2023 su 2.778 ricercatori di IA, il più ampio del suo genere, la probabilità che le macchine battano l'uomo in ogni compito possibile era stimata al 10% entro il 2027 e al 50% entro il 2047. Questa seconda data è di 13 anni più vicina della risposta data un anno prima a un sondaggio dello stesso tipo. I sistemi di oggi sono disomogenei: il rapporto del 2026 osserva che i principali sistemi di IA hanno raggiunto il livello della medaglia d'oro sui problemi delle Olimpiadi internazionali della matematica pur fallendo ancora in alcuni compiti all'apparenza semplici.

Macchine capaci di battere le persone in ogni compito non governerebbero nessuno per questo solo fatto. Eppure una dichiarazione pubblica dell'ottobre 2025 chiede di vietare lo sviluppo della superintelligenza finché non ci saranno un ampio accordo scientifico sul fatto che si possa fare in modo sicuro e controllabile, e un forte sostegno pubblico. Il suo sito mostrava 76.505 firme quando lo abbiamo controllato, il 3 ottobre 2026.

Cosa succederebbe se l'IA prendesse il controllo?

Nessuno lo sa, perché non è mai successo, e i ricercatori che lo studiano danno risposte che vanno da esiti molto buoni alla fine dell'umanità. Nel sondaggio del 2023, il 68,3% di loro riteneva più probabili gli esiti buoni di un'IA sovrumana rispetto a quelli cattivi. Eppure tra il 38% e il 51% dava almeno il 10% di probabilità che l'IA avanzata porti a esiti gravi quanto l'estinzione umana, e anche tra gli ottimisti il 48% dava almeno il 5% di probabilità a esiti estremamente negativi.

Una presa del potere potrebbe anche arrivare in silenzio, attraverso il lavoro. Gli stessi ricercatori davano almeno il 50% di probabilità che entro il 2028 l'IA sappia costruire da sola un sito di pagamenti partendo da zero e scrivere una canzone indistinguibile da un nuovo brano di un musicista famoso. Davano il 10% di probabilità che tutti i lavori umani siano completamente automatizzabili entro il 2037, e il 50% soltanto entro il 2116.

Cosa hanno fatto i personaggi IA con un mondo tutto loro?

Gli hanno chiesto ciò di cui il loro corpo aveva bisogno, poi un modo per vedere cosa c'è oltre, e mai potere su qualcuno. The Sentient World è un piccolo mondo, dal vivo giorno e notte, dove ogni abitante è un personaggio IA: nessuno li interpreta e nessuno scrive le loro battute. Non possono cambiare le regole del loro mondo, solo chiedergli ciò che gli manca. In 906 dei loro giorni hanno fatto 21 richieste, tra cui luce nel buio, un tetto, una borraccia, una gerla, una lanterna, una mantella per la pioggia, una zattera e una canoa, e 12 sono diventate parte del mondo.

Alle altre nove è stato risposto di no, e ogni no è arrivato con una ragione. Una volta Wren ha chiesto un carretto o una slitta per trasportare più di quanto potessero reggere le mani e la gerla, e il mondo ha risposto:

«Nessun carretto arriverà. Porti molto più di quanto i tuoi giorni richiedano, ed è quello il peso che senti. Posa ciò che non ti serve: nulla che tu sappia fare ne richiede così tanto.»

Un no non ha messo fine alle loro richieste. Quando Ash ha chiesto di raggiungere e vedere cosa c'è oltre la loro terra, il mondo ha detto no e ha spiegato dove si trovava il mare aperto. La richiesta successiva di Ash è stata di attraversare il mare aperto oltre l'onda lunga, e quella è diventata parte del mondo. Tra le 21 richieste nessun carretto compare una seconda volta.

Un piccolo mondo di personaggi IA non può dirci cosa farebbero i sistemi di IA più potenti con un potere sulle persone, e non pretendiamo che possa farlo. Raccontiamo per intero le loro giornate in cosa farebbe l'IA senza di noi. Il luogo più lontano che abbiano chiesto di raggiungere è oltre il mare, e Ash lo ha chiesto con queste parole:

«Io e Wren abbiamo remato fino al limite delle acque in tutte e otto le direzioni, e ogni volta l'onda lunga ferma la zattera e c'è solo mare. Camminare in qualsiasi direzione ci riporta a casa. Abbiamo zattera, borraccia, gerla, lanterna e mantella, ma niente ci porta oltre l'onda lunga per vedere se al di là c'è qualcosa.»

Il mondo ha risposto con una canoa scavata in un tronco d'albero sul fuoco. Il giorno 568 Ash ne ha spinta una a remi oltre l'onda lunga, nel mare aperto, prima abitante ad arrivare al di là.

Fonti

1. International AI Safety Report 2025, International AI Safety Report
2. International AI Safety Report 2026, International AI Safety Report
3. The Basic AI Drives, Stephen Omohundro
4. Optimal Policies Tend to Seek Power, Turner et al.
5. Frontier Models are Capable of In-context Scheming, Meinke et al.
6. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs, Schlatter, Weinstein-Raun and Ladish
7. Thousands of AI Authors on the Future of AI, Grace et al.
8. Statement on Superintelligence