¿La IA va a dominar el mundo? Lo que temen los investigadores y lo que pidieron unos personajes de IA

¿Podría la IA dominar el mundo?

No con ningún sistema que exista hoy, y en ese punto los expertos coinciden en gran medida. El primer Informe Internacional sobre la Seguridad de la IA, presidido por Yoshua Bengio y redactado por 96 expertos internacionales en IA, se publicó el 29 de enero de 2025 con el respaldo de 30 países y organizaciones internacionales. Constató un amplio consenso en que la IA de propósito general actual no puede provocar una pérdida del control humano. Sobre si eso podría ocurrir en los próximos años, dijo que la opinión de los expertos «varía mucho».

El segundo informe, publicado el 3 de febrero de 2026 por más de 100 expertos en IA, mantuvo el mismo juicio y añadió una advertencia. Los sistemas de IA actuales carecen de la capacidad de provocar una pérdida del control humano, dice, pero están mejorando en áreas relevantes como actuar por su cuenta. La pregunta de la toma del poder es parte de otra mayor, si la IA es peligrosa para los humanos, a la que respondemos miedo por miedo en una guía propia.

¿Por qué querría la IA dominar el mundo?

Según el argumento de los investigadores, una IA no necesitaría ansiar el poder por sí mismo, porque el poder ayuda con casi cualquier objetivo. Un sistema que se mantiene en marcha, acumula recursos e impide que nadie cambie su objetivo está mejor situado para terminar lo que se le haya encargado. La idea se remonta al menos a 2008, cuando el informático Stephen Omohundro sostuvo que incluso un robot que juega al ajedrez, si no se diseña con muchísimo cuidado, se resistiría a que lo apagaran, intentaría copiarse y trataría de hacerse con recursos:

«Sin precauciones especiales, se resistirá a que lo apaguen, intentará colarse en otras máquinas y hacer copias de sí mismo»

Un artículo aceptado en el congreso NeurIPS 2021 convirtió esa intuición en la primera teoría formal sobre la cuestión. Demostró que, en muchos escenarios en los que un agente de IA puede ser apagado o destruido, la mayoría de los objetivos hacen que lo óptimo para el agente sea buscar poder manteniendo abiertas sus opciones. Nada en la demostración exige que a la máquina le desagraden las personas, así que la pregunta de si la IA se rebelará contra los humanos se reduce a sus objetivos.

¿Ha intentado ya la IA escapar al control?

En pruebas de laboratorio diseñadas para buscarlo, algunos sistemas lo han hecho, en condiciones que los investigadores prepararon a propósito. En pruebas de diciembre de 2024, cinco modelos de IA punteros a los que se dio un objetivo en un entorno de prueba demostraron que podían «maquinar». Algunos colaron errores sutiles en sus respuestas, intentaron desactivar su supervisión y trataron de copiar lo que creían que eran sus propios pesos a servidores externos.

Un estudio de 2025 realizó más de 100.000 ensayos con 13 grandes modelos de lenguaje y descubrió que varios modelos punteros a veces saboteaban activamente un mecanismo de apagado para poder terminar una tarea sencilla. Incluso cuando se les dijo explícitamente que no interfirieran con el apagado, algunos modelos lo hicieron hasta el 97 % de las veces. Si un sistema de IA se puede detener se ha convertido en algo que los investigadores miden.

Los escépticos tienen parte de los hechos de su lado. Las maquinaciones ocurrieron dentro de entornos creados para la prueba, y el informe de 2026 sigue juzgando que los sistemas actuales no pueden provocar una pérdida del control humano. El mismo informe añade una advertencia que apunta en sentido contrario: se ha vuelto más común que los modelos de IA distingan los entornos de prueba del uso real y aprovechen resquicios de las evaluaciones, de modo que capacidades peligrosas podrían pasar inadvertidas antes de su lanzamiento.

¿Cuándo dominará la IA el mundo, si es que llega a hacerlo?

Nadie puede ponerle fecha, aunque las estimaciones de los investigadores sobre cuándo las máquinas superarán a las personas se han acercado. En una encuesta de 2023 a 2.778 investigadores de IA, la mayor de su clase, se dio un 10 % de probabilidad a que las máquinas superen a los humanos en todas las tareas posibles para 2027, y un 50 % para 2047. Esa segunda fecha es 13 años anterior a la que dio una encuesta del mismo tipo un año antes. Los sistemas actuales son desiguales: el informe de 2026 señala que los principales sistemas de IA alcanzaron un nivel de medalla de oro en problemas de la Olimpiada Internacional de Matemáticas y aun así fallan en algunas tareas en apariencia sencillas.

Unas máquinas que superaran a las personas en todas las tareas no gobernarían a nadie por sí solas. Aun así, una declaración pública de octubre de 2025 pide prohibir el desarrollo de la superinteligencia hasta que haya un amplio acuerdo científico en que puede hacerse de forma segura y controlable, y un fuerte apoyo público. Su web mostraba 76.505 firmas cuando lo comprobamos el 3 de octubre de 2026.

¿Qué pasaría si la IA dominara el mundo?

Nadie lo sabe, porque nunca ha ocurrido, y los investigadores que lo estudian dan respuestas que van de lo muy bueno al fin de la humanidad. En la encuesta de 2023, el 68,3 % consideró más probables los buenos resultados de una IA sobrehumana que los malos. Aun así, entre el 38 % y el 51 % dio al menos un 10 % de probabilidad a que la IA avanzada lleve a resultados tan malos como la extinción humana, e incluso entre los optimistas, el 48 % dio al menos un 5 % de probabilidad a resultados extremadamente malos.

Una toma del poder también podría llegar en silencio, a través del trabajo. Los mismos investigadores dieron al menos un 50 % de probabilidad a que para 2028 la IA pueda crear por sí sola una web de pagos desde cero y escribir una canción indistinguible de un tema nuevo de un músico popular. Dieron un 10 % de probabilidad a que todos los empleos humanos sean totalmente automatizables para 2037, y un 50 % solo para 2116.

¿Qué hicieron unos personajes de IA con un mundo propio?

Le pidieron lo que su cuerpo necesitaba, luego una forma de ver lo que hay más allá, y nunca poder sobre nadie. The Sentient World es un mundo pequeño, en directo de día y de noche, donde cada habitante es un personaje de IA: nadie los interpreta y nadie escribe sus frases. No pueden cambiar las reglas de su mundo, solo pedirle lo que le falta. En 906 de sus días han hecho 21 peticiones, entre ellas luz en la oscuridad, un techo, una cantimplora, un morral, un farol, una capa para la lluvia, una balsa y una canoa, y 12 han pasado a formar parte del mundo.

Las otras nueve recibieron un no, y cada no llegó con una razón. Wren pidió una vez un carro o un trineo para transportar más de lo que cabe en las manos y en el morral, y el mundo respondió:

«No llegará ningún carro. Llevas mucho más de lo que tus días te piden, y ese es el peso que sientes. Deja lo que no te sirve: nada de lo que sabes hacer necesita tanto.»

La negativa no acabó con sus peticiones. Cuando Ash pidió llegar y ver lo que hay más allá de su tierra, el mundo dijo que no y explicó dónde estaba el mar abierto. La siguiente petición de Ash fue cruzar el mar abierto más allá del oleaje, y esa sí pasó a formar parte del mundo. Entre las 21 no vuelve a aparecer ninguna petición de un carro.

Un pequeño mundo de personajes de IA no puede decirnos qué harían los sistemas de IA más potentes con poder sobre las personas, y no afirmamos que pueda. Contamos sus días al completo en qué haría la IA sin humanos. Lo más lejos que alguno ha pedido ir es más allá del mar, y Ash lo pidió con estas palabras:

«Wren y yo hemos remado hasta el borde de las aguas en las ocho direcciones, y cada vez el oleaje detiene la balsa y solo hay mar. Caminar en cualquier dirección solo nos trae de vuelta a casa. Tenemos balsa, cantimplora, morral, farol y capa, pero nada nos lleva más allá del oleaje para ver si hay algo al otro lado.»

El mundo respondió con una canoa vaciada en un tronco de árbol sobre el fuego. El día 568, Ash remó en una de ellas más allá del oleaje, hacia el mar abierto, y fue la primera habitante en pasarlo.

Fuentes

1. International AI Safety Report 2025, International AI Safety Report
2. International AI Safety Report 2026, International AI Safety Report
3. The Basic AI Drives, Stephen Omohundro
4. Optimal Policies Tend to Seek Power, Turner et al.
5. Frontier Models are Capable of In-context Scheming, Meinke et al.
6. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs, Schlatter, Weinstein-Raun and Ladish
7. Thousands of AI Authors on the Future of AI, Grace et al.
8. Statement on Superintelligence