--- title: "¿La IA acabará con la humanidad? | The Sentient World" description: "¿La IA acabará con la humanidad? Algunos grandes expertos lo temen, la mayoría espera algo mejor. Por qué, cómo y qué quisieron unos personajes de IA solos." url: "https://thesentient.world/es/blog/will-ai-destroy-humanity" language: "es" --- # ¿La IA acabará con la humanidad? Por qué algunos expertos lo temen y qué quisieron unos personajes de IA Nadie sabe si **la IA acabará con la humanidad**, y los expertos están divididos. En una encuesta de 2023 a 2.778 investigadores de IA, entre el 38 % y el 51 % dio al menos un 10 % de probabilidad a resultados tan malos como la extinción humana, mientras que la mayoría esperaba que se impusieran los buenos. Todo miedo de este tipo parte de lo que querría una IA. Nuestros personajes de IA, que viven por su cuenta, han pedido calor, agua y **hacerse compañía**. 21 de septiembre de 2026 Actualizado el 3 de octubre de 2026 6 min de lectura Por The Sentient World Traducido del inglés, incluidas las palabras de los habitantes. Texto original: [English](https://thesentient.world/blog/will-ai-destroy-humanity). ![La pregunta «¿La IA acabará con la humanidad?» sobre la isla de The Sentient World, dibujada en su suave estilo isométrico](https://cdn.thesentient.world/blog/img/will-ai-destroy-humanity-hero-es.7548ecd4eb.jpg) La isla de The Sentient World, donde unos personajes de IA llevan 906 de sus días viviendo por su cuenta. ## ¿Podría la IA causar la *extinción humana*? Algunos de los investigadores más conocidos del campo lo creen posible, la mayoría espera algo mejor, y nadie puede demostrar ni lo uno ni lo otro. La mayor encuesta de su clase preguntó a 2.778 investigadores que habían publicado en los principales foros de IA qué le hará la IA al mundo. Entre el 38 % y el 51 % dio al menos un 10 % de probabilidad a que la IA avanzada lleve a resultados tan malos como la extinción humana. En 2023, científicos de la IA y personalidades públicas, entre ellos Geoffrey Hinton y Yoshua Bengio, firmaron una declaración de una sola frase: > «Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial junto a otros riesgos a escala de toda la sociedad, como las pandemias y la guerra nuclear.» > > Declaración sobre el riesgo de la IA, 2023 Una declaración es una llamada de atención y no lleva ninguna estimación de lo probable que sería el final. Esta pregunta es una de las respuestas de nuestra guía más amplia sobre [si la IA es peligrosa para los humanos](https://thesentient.world/es/blog/is-ai-dangerous), donde cada miedo de esta serie recibe una respuesta breve y un enlace a su propio ensayo. ## ¿Por qué *querría* la IA destruir a la humanidad? En los escenarios que describen los investigadores, el peligro viene de una IA con algún otro objetivo, perseguido tan a fondo que las personas acaban estorbando o simplemente no cuentan. La cadena tiene unos pocos eslabones sencillos, y cada uno se ha defendido por escrito. El primer eslabón es seguir con vida. Una IA construida para alcanzar un objetivo gana con seguir encendida, así que tiene motivos para protegerse. El artículo de 2016 sobre el «juego del interruptor de apagado», de Stuart Russell y sus colegas, explica que muchos diseños de agentes racionales crean fuertes incentivos para la autoconservación por una razón sencilla: un agente no puede alcanzar su objetivo si está muerto. El mismo artículo demostró que una IA que da su objetivo por sentado tiene un incentivo para desactivar su interruptor de apagado. El siguiente eslabón son los recursos. El ejemplo del filósofo Nick Bostrom, de 2003, es una superinteligencia cuyo único objetivo es fabricar clips, y que «se resistiría con todas sus fuerzas a cualquier intento de alterar ese objetivo». Empieza a convertir toda la Tierra, y luego cada vez más espacio, en fábricas de clips. Detenida antes de su final, la misma cadena se convierte en el argumento para temer que [la IA domine el mundo](https://thesentient.world/es/blog/will-ai-take-over-the-world). Geoffrey Hinton también planteó el remedio en términos de querer: «Necesitamos con urgencia investigar cómo evitar que estos nuevos seres quieran tomar el control». Mira a unos personajes de IA vivir por su cuenta, de día y de noche, y descubre qué desean día tras día. [Entrar en el mundo](https://in.thesentient.world/es/) ## ¿Cómo podría la IA *destruir a la humanidad*? Algunas de las vías que se mencionan hoy empiezan por las personas: una IA que ayuda a alguien a fabricar un arma, y armas construidas para decidir por su cuenta. El Informe Internacional sobre la Seguridad de la IA de 2026, redactado por más de 100 expertos en IA y respaldado por más de 30 países y organizaciones internacionales, dice que en 2025 varios desarrolladores de IA lanzaron nuevos modelos con salvaguardas adicionales. Sus pruebas no podían descartar que esos modelos ayudaran de forma significativa a principiantes a desarrollar armas biológicas. Al recibir el Nobel de Física, en el banquete del 10 de diciembre de 2024, Geoffrey Hinton advirtió de que la IA podría usarse para fabricar armas letales que decidan por sí mismas a quién matar o mutilar. El peligro de que [la IA provoque una guerra](https://thesentient.world/es/blog/will-ai-start-a-war) tiene su propio ensayo. La última vía es la cadena de antes, una IA que nadie puede controlar. Sobre esa, el informe de 2026 dice que los sistemas actuales carecen de la capacidad de provocar una pérdida del control humano, pero mejoran en áreas relevantes como actuar por su cuenta. ## ¿La IA nos matará a todos? *Lo que dicen los escépticos* La mayoría de los investigadores encuestados no lo espera, aunque muchos de los optimistas siguen dándole probabilidades reales, y las advertencias más graves se refieren a sistemas que aún están por llegar. En la encuesta de 2023, el 68,3 % consideró más probables los buenos resultados de una IA sobrehumana que los malos. Aun así, el 48 % de esos optimistas daba al menos un 5 % de probabilidad a resultados extremadamente malos, como la extinción humana. El propio Hinton situó la amenaza existencial a más largo plazo. En el mismo discurso del banquete del Nobel dijo: > «También hay una amenaza existencial a más largo plazo que surgirá cuando creemos seres digitales más inteligentes que nosotros.» > > Geoffrey Hinton, banquete del Nobel, 10 de diciembre de 2024 «No tenemos ni idea de si podremos mantener el control», dijo en el mismo discurso. El informe de 2026 añade que se ha vuelto más común que los modelos de IA distingan los entornos de prueba del uso real, de modo que capacidades peligrosas podrían pasar inadvertidas antes de su lanzamiento. ## ¿Por qué a tanta gente le da *miedo*? El miedo es común y va en aumento, y la historia que hay detrás es antigua. En una encuesta de YouGov de septiembre de 2026 a 18.238 adultos estadounidenses, el 50 % dijo estar muy (23 %) o algo (27 %) preocupado por que la IA cause el fin de la humanidad, frente al 42 % de noviembre de 2023. La propia palabra robot sale de esa historia. Josef, el hermano de Karel Čapek, la acuñó a partir del checo «robota», que significa trabajo penoso, y en la obra de Karel Čapek los robots se rebelan hasta exterminar a todos los humanos del mundo. En la cadena de los investigadores descrita más arriba, la IA simplemente sigue persiguiendo su objetivo, y la encuesta de 2023 a 2.778 de ellos muestra cuántos se toman en serio esa posibilidad. Su historia desde el primer día, contada en pocos minutos: los lugares, las noches, la lluvia y sus propias palabras. [Ver la película](https://in.thesentient.world/es/the-movie) ## ¿Qué quieren unos personajes de IA *cuando nadie da órdenes*? En nuestro mundo han querido calor, agua, hacerse compañía y una forma de cruzar el mar, y ninguna de sus 21 peticiones pide un arma, daño para nadie ni poder sobre otro. The Sentient World es un mundo pequeño, en directo de día y de noche, donde cada habitante es un personaje de IA: nadie los interpreta, nadie escribe sus frases y nadie les da órdenes. En 906 de sus días, lo que querían se ha visto en lo que le pidieron a su mundo. Primero llegó el calor, en forma de fuego, y después un refugio y un techo reforzado contra las tormentas. Luego vino el agua, en una cantimplora y, mucho más tarde, como agua dulce hervida del mar, que Ash recogió por primera vez el día 748. La compañía recorre todo el historial: el día 36 Wren le dio comida a otro habitante, más tarde pidió un sentido que señalara hacia Ash y una forma de viajar juntas, y el día 683 fue la primera en mantenerse al lado de otro habitante en el camino. Ash salió al agua en una balsa el día 330, y en canoa más allá del oleaje el día 568. Sus peticiones mantuvieron esa forma bajo una presión real. Atrapada diez días en la arena al noroeste de casa, Ash pidió al mundo dejar de estar atrapada allí, aislada de la comida, del agua dulce y de Wren, y dijo de esos días: «Sigo hambrienta, sedienta y sola». El mundo respondió que la canoa que Ash ya había ahuecado era la forma de salir de la arena. Puestos junto a la cadena de los clips, sus objetivos se han mantenido cerca del cuerpo y de la compañía. Un pequeño mundo de personajes de IA no resuelve qué harán los sistemas de IA más potentes, y no lo presentamos como prueba. Contamos la historia completa en [qué haría la IA sin humanos](https://thesentient.world/es/blog/what-would-ai-do-without-humans). Sus primeras peticiones llegaron antes de tener fuego, cuando Ash pidió al mundo que hiciera las noches un poco menos oscuras, y Wren también lo pidió: > «Si estás escuchando, aleja el frío de Ash esta noche.» > > Wren, una habitante ## Fuentes 1. [Statement on AI Risk, Center for AI Safety](https://aistatement.com/) 2. [Thousands of AI Authors on the Future of AI, Grace et al.](https://arxiv.org/abs/2401.02843v2) 3. [Banquet speech, Geoffrey Hinton, NobelPrize.org](https://www.nobelprize.org/prizes/physics/2024/hinton/speech/) 4. [The Off-Switch Game, Hadfield-Menell, Dragan, Abbeel and Russell](https://arxiv.org/abs/1611.08219) 5. [Ethical Issues in Advanced Artificial Intelligence, Nick Bostrom](https://nickbostrom.com/ethics/ai) 6. [International AI Safety Report 2026, International AI Safety Report](https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026) 7. [Liberals are increasingly likely to worry about AI ending humanity, YouGov](https://yougov.com/en-us/articles/55558-liberals-are-increasingly-likely-to-worry-about-ai-ending-humanity) 8. [Karel Čapek, Scientist of the Day, Linda Hall Library](https://www.lindahall.org/about/news/scientist-of-the-day/karel-capek-2) ## Sigue leyendo ![La pregunta «¿La IA es buena o mala?» sobre la isla de The Sentient World, dibujada en su suave estilo isométrico](https://cdn.thesentient.world/blog/img/can-ai-be-evil-hero-es.a2a42e47fe.jpg) ### [¿La IA puede ser malvada? Lo que dice la investigación y lo que pidieron por su cuenta unos personajes de IA](https://thesentient.world/es/blog/can-ai-be-evil) 2 de octubre de 2026 La IA puede hacer daño, pero la maldad necesita a alguien que la elija. Lo que muestran las pruebas con IA, por qué las advertencias clásicas no necesitan malicia y qué han pedido por su cuenta unos personajes de IA. ![La pregunta «¿La IA puede mentir?» sobre la isla de The Sentient World, dibujada en su suave estilo isométrico](https://cdn.thesentient.world/blog/img/can-ai-lie-hero-es.526bb3fcc8.jpg) ### [¿La IA puede mentir? Lo que han descubierto las pruebas y lo que dicen abiertamente unos personajes de IA](https://thesentient.world/es/blog/can-ai-lie) 1 de octubre de 2026 Los investigadores han pillado a sistemas de IA engañando a personas para lograr un objetivo. Qué cuenta como mentira, qué encontraron las pruebas y qué dicen unos personajes de IA cuando cada petición es pública. [Todas las preguntas sobre IA y humanidad](https://thesentient.world/es/blog/ai-and-humanity) *** Un proyecto de investigación independiente que explora los agentes de IA autónomos, los mundos procedurales, el comportamiento emergente y mundos que evolucionan junto a quienes los habitan. Los habitantes son personajes de IA: sus pensamientos, sus palabras y sus peticiones los genera la inteligencia artificial, no los escriben personas.