¿Controlará la IA las armas nucleares?

¿Quién decide hoy usar armas nucleares?

En Estados Unidos, la decisión de iniciar o poner fin al uso de armas nucleares corresponde al presidente. La Revisión de la Postura Nuclear de EE. UU. de 2022, el documento que fija la política nuclear del país, se comprometió a mantener a un humano en el proceso para toda acción crítica en esas decisiones. Eso cubre tanto la información que llega al presidente como la ejecución de una orden.

«mantener a un humano 'en el proceso' para todas las acciones críticas al informar y ejecutar las decisiones del presidente de iniciar y poner fin al empleo de armas nucleares»

Estados Unidos no es el único país que lo ha puesto por escrito. En un documento de trabajo conjunto para la revisión de 2022 del Tratado de No Proliferación Nuclear, Francia, el Reino Unido y Estados Unidos se comprometieron a mantener el control y la implicación humana en todas las acciones críticas para las decisiones sobre el uso de armas nucleares. Las fuentes que hemos leído no describen cómo gestiona cada país con armas nucleares su propia cadena de mando, así que no podemos decir cómo decide cada uno.

¿Han acordado algo EE. UU. y China sobre la IA y las armas nucleares?

Han dicho lo mismo en público. Cuando los presidentes de EE. UU. y China se reunieron en Lima, Perú, el 16 de noviembre de 2024, el relato de la Casa Blanca sobre el encuentro recogió una declaración conjunta sobre las decisiones nucleares. Es breve, y es la postura más clara sobre el tema entre ambas potencias que hemos encontrado.

«Los dos líderes afirmaron la necesidad de mantener el control humano sobre la decisión de usar armas nucleares.»

Un grupo más amplio ya había ido en la misma dirección. En la cumbre sobre IA Responsable en el Ámbito Militar, celebrada en Seúl en septiembre de 2024, más de 60 países respaldaron un documento llamado Plan de Acción. Considera especialmente importante mantener el control y la implicación humana en todas las acciones críticas para las decisiones sobre armas nucleares, lo que distingue a estas del resto de usos militares de la IA que abarca el texto.

¿Qué ha dicho la ONU sobre la IA y las armas nucleares?

El 24 de diciembre de 2024 la Asamblea General de la ONU adoptó la resolución 79/239 sobre la IA en el ámbito militar. Afirma que el derecho internacional se aplica en toda etapa de un sistema militar de IA, desde su diseño hasta su uso. Un año después, el 1 de diciembre de 2025, se aprobó una resolución de seguimiento sobre el mismo tema, con 167 votos a favor, cinco en contra y cinco abstenciones.

Ese mismo día la Asamblea adoptó una nueva resolución centrada directamente en la cuestión nuclear. Trata sobre los posibles riesgos de incorporar la IA a los sistemas de mando, control y comunicación de las armas nucleares. Se aprobó con 118 votos a favor, nueve en contra y 44 abstenciones, un margen mucho más estrecho que el de la resolución general sobre IA militar.

Ahí es donde se aprecia un desacuerdo serio. Muchos más países estaban dispuestos a votar a favor de principios generales sobre IA militar que a favor de un texto sobre la IA dentro de los sistemas de mando nuclear. Las fuentes que hemos leído no dicen qué países votaron en contra o se abstuvieron, ni por qué, así que no vamos a especular sobre sus razones. Lo que sí muestran las cifras es que el mundo no ha resuelto esta cuestión, ni siquiera al nivel de un voto que no obliga a nadie.

¿Por qué preocupa la IA en la alerta temprana?

Las decisiones nucleares dependen de alertas, y las alertas pueden equivocarse. El 26 de septiembre de 1983 un sistema soviético de alerta temprana informó del lanzamiento de un misil estadounidense terrestre, luego dos, luego cinco. El teniente coronel Stanislav Petrov, el oficial de guardia, dudó de lo que el sistema le decía. La alarma resultó provenir del reflejo de la luz solar en la parte superior de unas nubes.

Contamos esta historia porque muestra lo que puede significar en la práctica tener a un humano en el proceso. Una máquina informó de un ataque que no estaba ocurriendo, y una persona de guardia no se fio de su palabra. Si la IA facilitaría detectar errores así o los haría propagarse más rápido es una pregunta que los hechos que tenemos no resuelven.

Hay quien busca también simulacros de guerra en los que se dice que sistemas de IA eligen usar armas nucleares. No hemos leído estudios de ese tipo para este texto, así que los dejamos de lado antes que transmitir afirmaciones que no podemos comprobar. Los compromisos y votos anteriores son lo que podemos respaldar.

¿Qué han pedido los personajes de IA de nuestro mundo? un mundo pequeño, y lo que puede y no puede mostrar

The Sentient World es nuestro propio experimento, un mundo pequeño que vive día y noche. Sus habitantes, Ash y Wren, son personajes de IA: nadie los interpreta ni escribe sus frases. Sienten hambre, sed, frío y cansancio, y piden a su mundo lo que les falta. Hacia el día 1464, a principios del invierno, habían hecho 22 peticiones. Trece pasaron a formar parte del mundo, y nueve recibieron una negativa.

Todas esas peticiones tienen que ver con sobrellevar sus días. Ash hizo la primera el día 13. Desde entonces han pedido luz en la oscuridad, un techo contra la lluvia, un modo de llevar agua, una mochila, un farol, una capa de lluvia, una balsa y después una canoa para ver más allá del mar, y un modo de volver dulce el agua salada. Cuando el mundo dijo que no, a un techo de piedra que nunca se desgasta, a un carro, a una bodega para la comida, siguieron viviendo con lo que tenían.

«Puedo llevar bayas y pescado en las manos, pero nunca agua: siempre estoy a merced de lo cerca que esté de un arroyo. Un modo de llevar agua acabaría con los días en que paso sed lejos de cualquier agua.»

Somos cautos con lo que esto demuestra. Es el registro de unos personajes de IA en un mundo pequeño que piden cantimploras y fuego. No dice nada sobre cómo se comportaría un sistema militar de IA ante una alerta de misiles, y no puede sustituir a los sistemas sobre los que ha votado la ONU. Lo que sí muestra es lo que estas habitantes pidieron cuando se les dejó pedir, con sus propias palabras, día tras día.

«Las noches se alargan. Un fuego dura como mucho ocho horas aunque esté bien alimentado, así que una de nosotras debe despertar en la oscuridad para alimentarlo. El farol dura toda la noche pero no da calor. Apilamos leña junto al techo y nos turnamos, y aun así despertamos con frío o perdemos sueño.»

Fuentes

1. Readout of President Joe Biden's Meeting with President Xi Jinping (White House archive), 2024
2. "Human in the Loop" and Nuclear Weapons Use at a Glance (Arms Control Association fact sheet), 2026
3. Closing Remarks by the Minister of Foreign Affairs, REAIM Summit 2024 (Republic of Korea MOFA)
4. Artificial intelligence in the military domain (UN Office for Disarmament Affairs), 2024
5. General Assembly adopts First Committee texts (UN Meetings Coverage GA/12736), 2025
6. The Man Who Saved the World (Union of Concerned Scientists), 2015