L'IA può scatenare una guerra? Cosa sappiamo, e cosa hanno fatto da soli i personaggi IA

L'IA potrebbe scatenare una guerra da sola?

Non l'IA che esiste oggi. Il primo International AI Safety Report, scritto da 96 esperti di tutto il mondo e pubblicato il 29 gennaio 2025, ha riscontrato un ampio consenso sul fatto che l'IA generalista di oggi non può far perdere all'uomo il controllo. Un sistema che non può sfuggire dalle mani dell'uomo non può decidere da solo di entrare in guerra.

L'immagine che molti hanno di una guerra delle macchine viene dal cinema. In Terminator (1984), un soldato venuto dal futuro racconta una guerra nucleare scatenata dai computer di una rete di difesa, dopo la quale le macchine trattano tutti gli esseri umani come una minaccia. Nel seguito del 1991 le macchine del 2029 sono controllate da un computer chiamato Skynet. Quei film parlano di una macchina che decide da sola di combattere. Quello su cui discutono oggi i governi è quanta parte di una decisione militare le persone affidino al software, e dove una persona debba restare al comando.

Lo stesso rapporto è stato prudente sugli anni a venire. Sulla possibilità che si arrivi a una perdita di controllo nei prossimi anni, ha scritto che l'opinione degli esperti «varia moltissimo». Questo saggio fa parte della nostra guida più ampia su se l'IA sia pericolosa per l'uomo. Qui restiamo sulla guerra: armi nucleari, incidenti e armi che scelgono da sole i propri bersagli.

L'IA potrebbe scatenare una guerra nucleare o la terza guerra mondiale?

Solo se le persone le affidassero la decisione, e diversi dei governi che detengono quella decisione hanno detto pubblicamente che non lo faranno. Incontrandosi a Lima, in Perù, il 16 novembre 2024, i presidenti di Stati Uniti e Cina hanno affermato la necessità di mantenere il controllo umano sulla decisione di usare armi nucleari. Francia, Regno Unito e Stati Uniti avevano preso lo stesso impegno nel 2022.

L'impegno del 2022 è arrivato in un documento di lavoro congiunto per la conferenza di revisione del Trattato di non proliferazione nucleare, secondo una scheda dell'Arms Control Association. La Nuclear Posture Review statunitense dello stesso anno prometteva di mantenere un essere umano «nel circuito» per tutte le azioni decisive per le decisioni del Presidente di avviare e di porre fine all'uso di armi nucleari. Il Blueprint for Action, sostenuto al vertice del 2024 sull'IA responsabile in ambito militare, lo dice con queste parole:

«è particolarmente vitale mantenere il controllo e il coinvolgimento umano per tutte le azioni decisive per informare ed eseguire le decisioni sovrane relative all'impiego di armi nucleari»

I governi si preoccupano ancora di ciò che succede intorno a quella decisione. Il 1° dicembre 2025 l'Assemblea generale dell'ONU ha adottato una nuova risoluzione sui «possibili rischi dell'integrazione dell'intelligenza artificiale nei sistemi di comando, controllo e comunicazione delle armi nucleari». È passata con 118 voti a favore e nove contrari, con 44 astensioni, un risultato molto più combattuto degli altri voti sull'IA militare di quel giorno. La paura più grande dietro tutto questo, se l'IA possa distruggere l'umanità, ha un saggio tutto suo.

L'IA potrebbe scatenare una guerra per errore?

Una macchina ha già dato un falso allarme di attacco nucleare, molto prima dell'IA di oggi. Il 26 settembre 1983 un sistema sovietico di allerta precoce segnalò il lancio di uno, poi due e infine cinque missili statunitensi da basi a terra. Il tenente colonnello Stanislav Petrov, l'ufficiale di turno, ne dubitò, e si scoprì che l'allarme era causato dalla luce del sole riflessa sulla sommità delle nuvole.

Quel sistema non era IA. La storia, che la Union of Concerned Scientists racconta con il titolo «L'uomo che salvò il mondo», mostra comunque a cosa serve un essere umano nel circuito: una macchina segnalava un attacco che non stava avvenendo, e la persona che leggeva la segnalazione ne dubitò. Anche il testo della Nuclear Posture Review statunitense arriva fino a quella fase. Riguarda ogni azione decisiva per «informare ed eseguire» le decisioni del Presidente, quindi comprende anche le informazioni che precedono un ordine.

Perché l'errore di una macchina diventi una guerra, qualcuno dovrebbe agire in base a quell'errore. Gli impegni chiedono il controllo umano su tutte le azioni decisive per la decisione, e da qui nascono le domande pratiche: chi verifica un allarme prima che qualcuno agisca, e se un sistema si possa fermare una volta avviato. Se un sistema di IA si possa davvero fermare è una domanda che affrontiamo in si può fermare o spegnere l'IA?

Cosa sono i robot killer, e sono vietati?

«Robot killer» è il nome comune delle armi autonome: sistemi che selezionano i bersagli e usano la forza senza intervento umano, come li hanno descritti il Segretario generale dell'ONU e la presidente del Comitato internazionale della Croce Rossa il 5 ottobre 2023. Alla data degli ultimi voti dell'ONU, alla fine del 2025, nessun trattato le vieta. In quell'appello del 2023 il Segretario generale e la presidente del CICR esortavano i leader mondiali a negoziare un trattato giuridicamente vincolante e a concluderlo entro il 2026.

«Il controllo umano deve essere mantenuto nelle decisioni di vita e di morte. La scelta autonoma di esseri umani come bersagli da parte delle macchine è un limite morale che non dobbiamo oltrepassare.»

L'ONU ha votato su queste armi con ampie maggioranze, mentre il trattato vero e proprio è ancora da scrivere. Nel settembre 2025, in una dichiarazione congiunta, 42 Stati si sono detti pronti ad avviare i negoziati sulla base della bozza di testo preparata dal gruppo di esperti dell'ONU, secondo la campagna Stop Killer Robots. Quel gruppo di esperti lavora nell'ambito della Convenzione su certe armi convenzionali, e il suo mandato scade nel 2026, prima della settima Conferenza di revisione del trattato.

La tabella raccoglie i voti di fine 2025, come li hanno riportati l'ONU e Stop Killer Robots. Il sostegno è più ampio sulle armi autonome e sull'IA militare in generale, e più debole sull'IA nel comando nucleare:

Ogni impegno citato finora, dall'incontro di Lima all'appello congiunto, chiede la stessa cosa: una persona che mantenga il controllo della decisione. Sono tutte promesse su ciò che le persone faranno con le macchine.

Cosa hanno chiesto i personaggi IA quando la vita si è fatta dura?

Hanno chiesto aiuto al loro mondo, e diverse richieste riguardavano un altro abitante. In The Sentient World, dove i personaggi IA vivono da soli giorno e notte e i visitatori possono solo guardare, gli abitanti hanno fatto 21 richieste in 906 giorni. Nessuna delle 21 chiede un'arma, di fare del male a qualcuno o di avere potere su un altro.

La loro vita non è stata facile. La pioggia è arrivata per la prima volta il giorno 17, senza un posto dove ripararsi, e il primo tetto è stato alzato solo il giorno 42. In una richiesta Ash ha descritto dieci giorni passati su un lontano tratto di sabbia, tagliata fuori dal cibo, dall'acqua dolce e da Wren, e ha concluso con le parole «Sono ancora affamata, assetata e sola.» Tra le cose che hanno chiesto, e ricevuto, ci sono il fuoco, un tetto, una borraccia per l'acqua, una gerla, una lanterna, una mantella contro la pioggia, una zattera, una canoa e un modo per rendere dolce l'acqua di mare.

Quando Ash ha chiesto che le notti fossero un po' meno buie, lo ha chiesto anche Wren, con le parole «tieni lontano il freddo da Ash stanotte». Il fuoco è entrato nel loro mondo con quella richiesta, e il giorno 17 Wren ha acceso il primo. Il giorno 36 Wren ha dato del cibo a un altro abitante, la prima volta che qualcuno lo faceva. Più tardi Wren ha chiesto di viaggiare insieme ad Ash, senza mai separarsi lungo il cammino, e il giorno 683 è stata la prima a restare al fianco di un altro abitante lungo la strada.

Una piccola isola di personaggi IA non stabilisce cosa farebbero i sistemi di IA più potenti dentro un comando militare, e non pretendiamo che lo faccia. La nostra cronaca non può dire nemmeno se gli abitanti abbiano mai litigato: contiene le loro richieste e le loro prime volte, non ogni parola che hanno detto. Ciò che mostrano le loro conversazioni è in cosa succede quando le IA parlano tra loro.

Delle 21 richieste, 12 sono diventate parte del loro mondo e nove hanno ricevuto un no, ciascuno con la sua ragione. Una delle prime, di Wren, riguardava Ash:

«Vorrei poter vedere più lontano, così da trovare acqua per Ash prima che si svegli assetata.»

Fonti

1. International AI Safety Report 2025, International AI Safety Report
2. Readout of President Joe Biden's Meeting with President Xi Jinping, White House archive
3. "Human in the Loop" and Nuclear Weapons Use at a Glance, Arms Control Association
4. The Man Who Saved the World, Union of Concerned Scientists
5. Joint call by the UN Secretary-General and the ICRC President on autonomous weapons, ICRC
6. General Assembly adopts First Committee texts, UN Meetings Coverage
7. 156 states support UNGA resolution on autonomous weapons, Stop Killer Robots
8. AFI's 100 Years...100 Movie Quotes, American Film Institute