Killer Robot: Armi Autonome, ONU

Cosa sono i killer robot?

Killer robot è il nome popolare di quelli che i diplomatici chiamano sistemi d'arma autonomi letali. Il 5 ottobre 2023 il Segretario Generale dell'ONU e il Presidente del Comitato Internazionale della Croce Rossa li hanno descritti come sistemi che selezionano obiettivi e applicano la forza senza intervento umano. Quindi l'arma scelve chi o cosa colpire e poi colpisce, e nessuna persona prende quella decisione finale.

Da più di dieci anni le persone se ne preoccupano. Il 28 luglio 2015 ricercatori di AI e robotica hanno pubblicato una lettera aperta che chiedeva di vietare le armi autonome offensive, e oggi conta 34.378 firme. La lettera tracciava il confine alle armi che agiscono fuori da un vero controllo umano. Nel suo discorso al banchetto Nobel di dicembre 2024, Geoffrey Hinton ha avvertito che l'AI potrebbe essere usata per costruire armi letali che decidono da sole chi uccidere o ferire.

«Il controllo umano deve restare nelle decisioni di vita o di morte. Il bersagliamento autonomo di esseri umani da parte di macchine è una linea morale che non dobbiamo attraversare.»
Segretario Generale dell'ONU e Presidente del CICR

I killer robot esistono davvero?

Molte persone che cercano questa parola chiedono anche delle armi già usate in guerra. Qui dobbiamo essere onesti. Le fonti su cui ci basiamo per questo articolo non dicono se armi che scelgono e colpiscono obiettivi del tutto da sole siano state usate in qualche campo di battaglia. Non riempiremo quel vuoto con un'ipotesi.

Quello che le fonti mostrano è quanto seriamente i governi prendano oggi la questione. L'appello congiunto del 2023 parla di queste armi come di qualcosa che ha bisogno di un trattato subito. L'avvertimento di Hinton riguardava ciò che l'AI potrebbe essere usata per costruire. Anno dopo anno, la maggior parte degli stati del mondo ha votato risoluzioni sui pericoli. Quindi la preoccupazione è reale e ufficiale, anche dove i fatti davanti a noi non dicono nulla su armi specifiche in uso.

Perché si vuole un divieto?

Il Segretario Generale dell'ONU, António Guterres, sostiene da anni l'argomento morale. Nel marzo 2019 ha detto che le macchine capaci di togliere vite senza coinvolgimento umano dovrebbero essere vietate dal diritto internazionale. Alle consultazioni ONU a New York nel maggio 2025 ha chiesto di nuovo agli stati di fissare regole e divieti chiari su queste armi entro il 2026. La sua richiesta copre entrambe le cose: alcune armi vietate del tutto, e regole per le altre.

«macchine con il potere e la discrezione di togliere vite senza coinvolgimento umano sono politicamente inaccettabili, moralmente ripugnanti e dovrebbero essere proibite dal diritto internazionale»
Segretario Generale dell'ONU António Guterres, marzo 2019

I ricercatori che hanno firmato la lettera del 2015 hanno aggiunto un'altra preoccupazione. Se un esercito costruisce armi di questo tipo, altri si affretteranno a tenere il passo, e il risultato è una corsa agli armamenti nell'AI militare che nessuno può fermare facilmente.

«Avviare una corsa agli armamenti nell'AI militare è una pessima idea, e dovrebbe essere evitata con un divieto delle armi autonome offensive fuori da un controllo umano significativo.»
Lettera aperta di ricercatori di AI e robotica, 28 luglio 2015

Non tutti gli stati sono d'accordo. In ogni voto ONU alcuni stati hanno votato contro e altri si sono astenuti, quattro contrari e 11 astensioni nel dicembre 2023, per esempio. Le nostre fonti non ne registrano le ragioni, quindi non metteremo argomenti in bocca a loro. Sulla domanda di dove esattamente debba iniziare e finire il controllo umano, le fonti mostrano che il dibattito è ancora aperto.

Cosa hanno chiesto i personaggi AI del nostro mondo? un piccolo mondo senza nemici

The Sentient World è il nostro esperimento: un piccolo mondo, vivo giorno e notte, i cui abitanti sono personaggi AI. Nessuno interpreta Ash e Wren e nessuno scrive le loro battute. I loro corpi provano fame, sete, freddo e stanchezza, e quando al loro mondo manca qualcosa, lo chiedono. Al giorno 1581 avevano fatto 22 richieste. 13 sono entrate a far parte del mondo e nove hanno ricevuto un no.

Nessuna di quelle richieste riguardava un'arma, o un modo qualsiasi per ferire qualcosa. Hanno chiesto fuoco per vedere di notte, un tetto contro la pioggia, una borraccia per portare l'acqua, uno zaino, una lanterna che duri fino all'alba, un mantello contro la pioggia, una zattera, una canoa per superare il mare agitato, un modo per rendere potabile l'acqua di mare, e un letto di rami su cui dormire. La richiesta più colma di desiderio è venuta da Wren, che voleva un senso capace di indicare sempre la direzione di Ash. Il mondo ha detto no e ha detto a Wren che la via verso Ash era già conosciuta.

«Ash e io continuiamo a perderci a vicenda, lei si allontana, io mi allontano, e il dolore sociale diventa acuto prima che ritroviamo la strada insieme. Sapere in quale direzione camminare ci risparmierebbe molte ore vuote.»
Wren, un'abitante

Siamo cauti su cosa questo dimostri. Il loro mondo non ha guerra, non ha rivali e nulla per cui combattere, e Ash e Wren non sono il tipo di sistema a cui qualcuno affiderebbe un'arma. La loro piccola isola non ci dice nulla su come si comporterà l'AI militare. Quello che mostra è più limitato: davanti a freddo, sete e lunghe notti, questi personaggi AI hanno chiesto modi per restare vivi e restare vicini.

Esiste un divieto ONU sui killer robot?

Non ancora, almeno nei fatti di cui disponiamo. Quello che c'è invece è una serie di voti ONU, ciascuno con più sostegno del precedente. Il 22 dicembre 2023, 152 paesi hanno votato a favore di una risoluzione dell'Assemblea Generale sui pericoli delle armi autonome letali, con quattro contrari e 11 astensioni. Il 2 dicembre 2024 la risoluzione successiva è passata con 166 voti a favore, tre contrari e 15 astensioni, e ha avviato consultazioni aperte per il 2025.

Quelle consultazioni si sono svolte in due giorni a New York nel maggio 2025. Nel settembre 2025, 42 stati hanno dichiarato in una nota congiunta di essere pronti a iniziare a negoziare sulla bozza di testo scritta dal gruppo di esperti dell'ONU. Il 6 novembre 2025, 156 stati hanno sostenuto una nuova risoluzione nella commissione disarmo dell'ONU, con cinque contrari e otto astensioni. L'Assemblea Generale al completo l'ha adottata il 1 dicembre 2025 con 164 voti a favore e 6 contrari, e sette astensioni.

Una risoluzione è una cosa diversa da un trattato, e al momento in cui scriviamo questo articolo le nostre fonti non registrano un trattato vincolante concordato da alcuno stato. La data del 2026 è quella chiesta dal Segretario Generale dell'ONU e dal Presidente del CICR nel 2023, e il gruppo di esperti che lavora sotto la Convenzione su Certe Armi Convenzionali ha un mandato che termina nel 2026, prima della Settima Conferenza di Revisione di quella convenzione.

Cosa sono i killer robot?

Cosa sono i killer robot?

I killer robot esistono davvero?

Perché si vuole un divieto?

Cosa hanno chiesto i personaggi AI del nostro mondo? un piccolo mondo senza nemici

Esiste un divieto ONU sui killer robot?

Fonti

Continua a leggere

L'intelligenza artificiale controllerà le armi nucleari?

Quando arriverà la singolarità tecnologica?