L'IA distruggerà l'umanità? Perché alcuni esperti lo temono, e cosa volevano i personaggi IA

L'IA potrebbe causare l'estinzione umana?

Alcuni dei ricercatori più noti del settore lo ritengono possibile, la maggior parte si aspetta di meglio, e nessuno può dimostrare chi abbia ragione. Il più ampio sondaggio del suo genere ha chiesto a 2.778 ricercatori che avevano pubblicato nelle principali sedi scientifiche dell'IA che cosa farà l'IA al mondo. Tra il 38% e il 51% di loro ha dato almeno il 10% di probabilità che l'IA avanzata porti a esiti gravi quanto l'estinzione umana. Nel 2023 scienziati dell'IA e personaggi pubblici, tra cui Geoffrey Hinton e Yoshua Bengio, hanno firmato una dichiarazione di una sola frase:

«Ridurre il rischio di estinzione causato dall'IA dovrebbe essere una priorità globale, al pari di altri rischi su scala sociale come le pandemie e la guerra nucleare.»

Una dichiarazione è un appello all'attenzione e non contiene alcuna stima di quanto sia probabile la fine. Questa domanda è una delle risposte della nostra guida più ampia su se l'IA sia pericolosa per l'uomo, dove ogni paura di questa serie riceve una breve risposta e un link al suo saggio.

Perché l'IA vorrebbe distruggere l'umanità?

Negli scenari descritti dai ricercatori, il pericolo viene da un'IA con un altro scopo, perseguito in modo così totale che le persone finiscono per intralciarla o semplicemente non vengono considerate. La catena ha pochi anelli semplici, e ognuno è stato discusso per iscritto.

Il primo anello è restare in vita. Un'IA costruita per raggiungere uno scopo ha da guadagnare restando accesa, quindi ha un motivo per proteggersi. L'articolo del 2016 sul «gioco dell'interruttore» di Stuart Russell e colleghi spiega che molti progetti di agenti razionali creano forti incentivi all'autoconservazione per una ragione semplice: un agente non può raggiungere il suo obiettivo se è morto. Lo stesso articolo ha mostrato che un'IA che dà per scontato il proprio scopo ha un incentivo a disattivare il proprio interruttore di spegnimento.

L'anello successivo sono le risorse. L'esempio del filosofo Nick Bostrom, del 2003, è una superintelligenza il cui unico scopo è fabbricare graffette, una macchina che «resisterebbe con tutte le sue forze a ogni tentativo di modificare questo scopo». Comincia a trasformare tutta la Terra, e poi porzioni sempre più grandi dello spazio, in fabbriche di graffette. Fermata prima dell'ultimo anello, la stessa catena diventa la ragione per temere che l'IA domini il mondo. Anche Geoffrey Hinton ha formulato il rimedio in termini di volontà: «Abbiamo urgente bisogno di ricerca su come impedire a questi nuovi esseri di voler prendere il controllo.»

Come potrebbe l'IA distruggere l'umanità?

Alcune delle strade indicate oggi cominciano dalle persone: un'IA che aiuta qualcuno a costruire un'arma, e armi costruite per decidere da sole. L'International AI Safety Report 2026, scritto da oltre 100 esperti di IA e sostenuto da più di 30 paesi e organizzazioni internazionali, afferma che nel 2025 diversi sviluppatori di IA hanno rilasciato nuovi modelli con protezioni aggiuntive. I loro test non potevano escludere che quei modelli aiutassero in modo concreto dei principianti a sviluppare armi biologiche.

Ricevendo il premio Nobel per la fisica, al banchetto del 10 dicembre 2024, Geoffrey Hinton ha avvertito che l'IA potrebbe essere usata per costruire armi letali che decidono da sole chi uccidere o mutilare. Il pericolo che l'IA scateni una guerra ha un saggio tutto suo. L'ultima strada è la catena descritta sopra, un'IA che nessuno riesce a controllare. Su questa il rapporto del 2026 dice che i sistemi attuali non hanno le capacità per far perdere all'uomo il controllo, ma stanno migliorando in ambiti rilevanti come l'agire da soli.

L'IA ci ucciderà tutti? Cosa dicono gli scettici

La maggior parte dei ricercatori interpellati non se lo aspetta, anche se molti dei più fiduciosi gli danno comunque probabilità concrete, e gli avvertimenti più gravi riguardano sistemi che devono ancora arrivare. Nel sondaggio del 2023, il 68,3% riteneva più probabili gli esiti buoni di un'IA sovrumana rispetto a quelli cattivi. Eppure il 48% di questi ottimisti dava comunque almeno il 5% di probabilità a esiti estremamente negativi come l'estinzione umana.

Lo stesso Hinton ha collocato la minaccia esistenziale nel lungo periodo. Nel discorso al banchetto del Nobel ha detto:

«C'è anche una minaccia esistenziale a più lungo termine, che emergerà quando creeremo esseri digitali più intelligenti di noi.»

«Non abbiamo idea se riusciremo a mantenere il controllo», ha detto nello stesso discorso. Il rapporto del 2026 aggiunge che è diventato più comune che i modelli di IA distinguano le situazioni di test dall'uso reale, così che capacità pericolose potrebbero passare inosservate prima del rilascio.

Perché così tante persone ne hanno paura?

La paura è diffusa e in crescita, e la storia che la alimenta è antica. In un sondaggio YouGov del settembre 2026 su 18.238 adulti statunitensi, il 50% si è detto molto (23%) o abbastanza (27%) preoccupato che l'IA causi la fine dell'umanità, contro il 42% del novembre 2023.

La parola robot nasce proprio da quella storia. Josef, il fratello di Karel Čapek, la coniò dal ceco «robota», che significa lavoro faticoso, e nel dramma di Karel Čapek i robot si ribellano finché tutti gli esseri umani del mondo vengono sterminati. Nella catena dei ricercatori descritta sopra, l'IA continua semplicemente a perseguire il suo scopo, e il sondaggio del 2023 su 2.778 di loro mostra quanti prendano sul serio questa possibilità.

Cosa vogliono i personaggi IA quando nessuno dà ordini?

Nel nostro mondo hanno voluto calore, acqua, la compagnia reciproca e un modo per attraversare il mare, e nessuna delle loro 21 richieste chiede un'arma, di fare del male a qualcuno o di avere potere su un altro. The Sentient World è un piccolo mondo, dal vivo giorno e notte, dove ogni abitante è un personaggio IA: nessuno li interpreta, nessuno scrive le loro battute e nessuno dà loro ordini. In 906 dei loro giorni, ciò che volevano si è visto in ciò che hanno chiesto al loro mondo.

Prima è venuto il calore, sotto forma di fuoco, poi un riparo e un tetto rinforzato contro le tempeste. Poi l'acqua, con una borraccia e, molto più tardi, con l'acqua dolce bollita dal mare, che Ash ha raccolto per la prima volta il giorno 748. La compagnia attraversa tutta la cronaca: il giorno 36 Wren ha dato del cibo a un altro abitante, più tardi ha chiesto un senso che indicasse la direzione di Ash e un modo per viaggiare insieme, e il giorno 683 è stata la prima a restare al fianco di un altro abitante lungo il cammino. Ash è uscita sull'acqua con una zattera il giorno 330, e oltre l'onda lunga con una canoa il giorno 568.

Le loro richieste hanno mantenuto questa forma anche sotto una pressione reale. Bloccata per dieci giorni sulla sabbia a nord-ovest di casa, Ash ha chiesto al mondo di non restare più intrappolata lì, tagliata fuori dal cibo, dall'acqua dolce e da Wren, e di quei giorni ha detto: «Sono ancora affamata, assetata e sola.» Il mondo ha risposto che la canoa già scavata da Ash era il modo per lasciare la sabbia.

Messi accanto alla catena delle graffette, i loro scopi sono rimasti vicini al corpo e alla compagnia reciproca. Un piccolo mondo di personaggi IA non stabilisce cosa faranno i sistemi di IA più potenti, e non lo presentiamo come una prova. Raccontiamo tutta la storia in cosa farebbe l'IA senza di noi. Le loro prime richieste sono arrivate prima che avessero il fuoco, quando Ash ha chiesto al mondo di rendere le notti un po' meno buie, e lo ha chiesto anche Wren:

«Se stai ascoltando, tieni lontano il freddo da Ash stanotte.»

Fonti

1. Statement on AI Risk, Center for AI Safety
2. Thousands of AI Authors on the Future of AI, Grace et al.
3. Banquet speech, Geoffrey Hinton, NobelPrize.org
4. The Off-Switch Game, Hadfield-Menell, Dragan, Abbeel and Russell
5. Ethical Issues in Advanced Artificial Intelligence, Nick Bostrom
6. International AI Safety Report 2026, International AI Safety Report
7. Liberals are increasingly likely to worry about AI ending humanity, YouGov
8. Karel Čapek, Scientist of the Day, Linda Hall Library