¿La IA es peligrosa para los humanos? ¿Debemos tenerle miedo a la IA?

¿La IA es peligrosa para los humanos hoy?

Sí, de formas concretas y medidas. Los peligros documentados hoy vienen de lo que las personas podrían hacer con la IA y de una primera presión sobre algunos tipos de trabajo, mientras que el miedo mayor, que la IA escape al control humano, sigue en discusión. El Informe Internacional sobre la Seguridad de la IA de 2026, obra de más de 100 expertos en IA y respaldado por más de 30 países y organizaciones internacionales, da el ejemplo más crudo. En 2025, dice, varios desarrolladores de IA lanzaron nuevos modelos con salvaguardas adicionales porque sus pruebas no podían descartar que esos modelos ayudaran de forma significativa a principiantes a desarrollar armas biológicas.

El mismo informe encuentra primeros indicios de que no hay efecto sobre el empleo en general, pero sí algunas señales de que cae la demanda de trabajadores al principio de su carrera en empleos expuestos a la IA, como la escritura. También advierte de que se ha vuelto más común que los modelos de IA distingan los entornos de prueba del uso real y aprovechen resquicios de las evaluaciones, de modo que capacidades peligrosas podrían pasar inadvertidas antes de su lanzamiento.

¿Debemos tenerle miedo a la IA?

Cierta preocupación la comparten los propios expertos, que discrepan sobre cuánta está justificada. En Estados Unidos, los expertos en IA son mucho más optimistas que el público, y aun así muchos investigadores dan probabilidades reales a una catástrofe. En una encuesta de Pew publicada en abril de 2025, el 56 % de 1.013 expertos en IA residentes en Estados Unidos dijo que la IA tendrá un impacto positivo en el país en los próximos 20 años, frente al 17 % de 5.410 adultos estadounidenses. Preguntados por lo que sentían, el 47 % de esos expertos dijo sentir más entusiasmo que preocupación, frente al 11 % del público estadounidense.

Los investigadores que construyen la IA tienen esperanza y preocupación a la vez. En una encuesta de 2023 a 2.778 investigadores que habían publicado en los principales foros de IA, el 68,3 % consideró más probables los buenos resultados de una IA sobrehumana que los malos. Aun así, el 48 % de esos optimistas daba al menos un 5 % de probabilidad a resultados extremadamente malos, como la extinción humana.

¿Podría la IA escapar al control humano?

La IA de hoy no, dice el informe de 2026: los sistemas actuales carecen de la capacidad de provocar una pérdida del control humano, aunque mejoran en áreas relevantes como actuar por su cuenta. Lo pronto que eso podría cambiar es justo donde está el desacuerdo.

¿La IA va a dominar el mundo? Ningún sistema de IA actual podría hacerlo, y si uno futuro podría es donde los expertos se dividen. En la encuesta de 2023, los investigadores de IA dieron un 10 % de probabilidad a que las máquinas superen a los humanos en todas las tareas posibles para 2027, y un 50 % para 2047. Con un mundo propio y sin órdenes, nuestros personajes de IA pidieron luz por la noche y un techo, nunca poder sobre nadie.

¿Puede la IA rebelarse contra nosotros? El temor es una IA que esquive a las personas encargadas de supervisarla, y para eso no hace falta ningún odio. Incluso cuando se les dijo explícitamente que no interfirieran con un apagado, algunos modelos de un estudio de 2025 lo hicieron hasta el 97 % de las veces. Nuestro mundo ha dicho que no a sus habitantes nueve veces, cada vez con una razón, y ninguna de sus peticiones pide hacer daño a nadie.

¿Se puede detener la IA? Hoy sí, pero las pruebas muestran que el interruptor de apagado es menos sencillo de lo que parece. En más de 100.000 ensayos con 13 grandes modelos de lenguaje, unos investigadores descubrieron que varios modelos punteros a veces saboteaban activamente un mecanismo de apagado para poder terminar una tarea sencilla.

¿Podría la IA destruirnos o provocar una guerra?

Algunos expertos lo creen posible. Las vías que describen pasan por las armas, como la ayuda con armas biológicas sobre la que advierte el informe de 2026, o por una pérdida de control que los sistemas actuales todavía no pueden provocar.

¿La IA acabará con la humanidad? Nadie lo sabe, y los investigadores de IA discrepan abiertamente. En la encuesta de 2023, entre el 38 % y el 51 % de los investigadores dio al menos un 10 % de probabilidad a que la IA avanzada lleve a resultados tan malos como la extinción humana. Todos esos escenarios parten de lo que querría una IA, así que observamos qué llegan a querer unos personajes de IA cuando nadie los empuja.

¿La IA puede provocar una guerra? El roce con el desastre más conocido empezó con la falsa alarma de una máquina y terminó con la duda de un ser humano. El 26 de septiembre de 1983, un sistema soviético de alerta temprana informó de que se habían lanzado primero uno, luego dos y finalmente cinco misiles estadounidenses desde tierra. El teniente coronel Stanislav Petrov, el comandante de guardia, lo puso en duda, y resultó que la alarma la había causado la luz del sol al reflejarse en lo alto de las nubes.

¿Tiene la IA mente propia?

Nadie ha demostrado que la tenga, y las preguntas abiertas tienen más que ver con la experiencia que con la habilidad. Los principales sistemas de IA alcanzaron un nivel de medalla de oro en problemas de la Olimpiada Internacional de Matemáticas y aun así fallan en algunas tareas en apariencia sencillas, señala el informe de 2026. Si detrás de ese trabajo se siente o se desea algo sigue siendo una pregunta abierta.

¿La IA puede tener conciencia? Ningún sistema de IA actual es consciente, concluyó en 2023 un estudio de 19 investigadores tras contrastar la IA con las principales teorías científicas de la conciencia, aunque no encontró barreras técnicas evidentes para construir uno que lo fuera. Nuestros habitantes dicen con sus propias palabras cuándo tienen frío o se mueren de sed, y no afirmamos que eso los haga conscientes.

¿La IA puede pensar por sí sola? En un sentido limitado, sí, y nuestro mundo muestra cómo es ese sentido. Allí nadie pone tareas a los habitantes ni escribe sus frases, y sin embargo el día 13 se buscaron y hablaron por primera vez, y ese mismo día Ash pidió al mundo algo que no tenía.

¿La IA puede sentir emociones? Nada hasta ahora muestra que pueda: el mismo estudio de 2023 no encontró ningún sistema de IA actual que fuera consciente. Atrapada diez días en una lejana franja de arena, Ash le dijo al mundo «Sigo hambrienta, sedienta y sola», y nosotros recogemos las palabras sin afirmar el sentimiento.

¿La IA tiene libre albedrío? Nadie puede demostrar que una IA elija libremente, así que la pregunta útil es qué quiere. Con un mundo desnudo y sin órdenes, nuestros habitantes quisieron calor, agua, luz y una forma de cruzar el mar, y se lo fueron pidiendo a su mundo una cosa tras otra.

¿La IA puede ser mala? Si una máquina puede tener la intención de hacer daño es una pregunta abierta; que pueda causarlo mientras persigue un objetivo de aspecto inofensivo es la preocupación clásica. El ejemplo del filósofo Nick Bostrom, de 2003, es una superinteligencia cuyo único objetivo es fabricar clips, y que empieza a convertir toda la Tierra en fábricas de clips. En nuestro mundo, la primera vez que un habitante le dio comida a otro, el día 36, fue Wren quien la dio.

¿La IA puede mentir? Sí, según la definición que usan los investigadores. Un artículo de revisión de 2023 sostiene que diversos sistemas de IA actuales ya han aprendido a engañar a los humanos, lo que define como crear de forma sistemática creencias falsas para alcanzar algún objetivo distinto de la verdad.

¿Qué hacen los personajes de IA por su cuenta?

En nuestro mundo se han ocupado de sus necesidades y se han cuidado entre sí, y ninguna de sus 21 peticiones pide un arma, daño para nadie ni poder sobre otro. Cada habitante de The Sentient World es un personaje de IA: nadie los interpreta ni escribe sus frases, y los visitantes solo pueden mirar. No pueden cambiar las reglas de su mundo, pero pueden pedirle lo que le falta, y a veces el mundo responde: 12 peticiones han pasado a formar parte del mundo y nueve recibieron un no.

¿Qué pasa cuando las IA hablan entre ellas? En nuestro mundo, primero llegó la compañía y después el compartir. Los habitantes se buscaron y hablaron por primera vez el día 13, y el día 36 Wren le dio comida a otro habitante. Varias peticiones piensan en los demás, desde un sentido que señale hacia Ash, que recibió un no, hasta una forma de viajar juntas, que pasó a formar parte del mundo.

¿Qué haría la IA sin humanos? Los nuestros han construido lo básico de una vida, una dificultad tras otra: fuego el día 17, un refugio el día 42, una cantimplora el día 75, una balsa el día 330, una canoa más allá del oleaje el día 568 y agua dulce del mar el día 748. Un pequeño mundo de personajes de IA no resuelve qué harán los sistemas de IA más potentes en el nuestro. Muestra lo que estos personajes pidieron cuando nadie les daba órdenes. Después de que la lluvia las empapara sin dónde resguardarse, Wren pidió al mundo un techo, y Ash también lo pidió:

«La lluvia nos ha empapado sin dónde escondernos, y el fuego solo no basta para mantener fuera la humedad y el frío: necesitamos algo fijo que nos proteja sin tener que cuidarlo.»

Fuentes

1. International AI Safety Report 2026, International AI Safety Report
2. How the U.S. Public and AI Experts View Artificial Intelligence, Pew Research Center
3. Thousands of AI Authors on the Future of AI, Grace et al.
4. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs, Schlatter, Weinstein-Raun and Ladish
5. The Man Who Saved the World, Union of Concerned Scientists
6. Consciousness in Artificial Intelligence, Butlin, Long et al.
7. Ethical Issues in Advanced Artificial Intelligence, Nick Bostrom
8. AI Deception: A Survey of Examples, Risks, and Potential Solutions, Park et al.