¿Puede la IA acabar con la humanidad? El debate, la carrera tecnológica y qué significa para quien estudia hoy

Esta semana ha vuelto a circular la idea de que la superinteligencia artificial es una amenaza existencial. Hay argumentos serios detrás, hay intereses comerciales detrás, y hay una carrera geopolítica que hace que nadie quiera ser el primero en frenar. Esto es lo que hay, sin dramatismo.

Si últimamente te ha llegado por redes sociales algún titular sobre que la inteligencia artificial "podría acabar con la humanidad", no lo has imaginado: en septiembre de 2026 el debate ha vuelto a primera línea, con declaraciones de figuras como Sam Altman (OpenAI), Dario Amodei (Anthropic) y Elon Musk advirtiendo de riesgos existenciales de la superinteligencia. Y como suele pasar con este tema, la conversación se ha dividido rápido en dos bandos que apenas se escuchan: quien lo toma como una amenaza real y quien sospecha que es una cortina de humo. La verdad, como casi siempre, tiene piezas de ambos lados.

Este artículo no pretende darte una conclusión cerrada —nadie la tiene, ni siquiera los expertos que llevan una década estudiando esto—, sino ayudarte a entender los argumentos de fondo, por qué nadie está dispuesto a frenar de verdad, y qué tiene esto que ver contigo si estás decidiendo hoy qué estudiar.

Lo que ha pasado esta semana

Según la cobertura de medios como France 24, altos ejecutivos de las principales empresas de IA estadounidenses han elevado el tono de sus advertencias sobre riesgos existenciales: pérdida de control sobre sistemas cada vez más autónomos, uso malicioso en bioterrorismo, y disrupciones económicas a gran escala. Dario Amodei, consejero delegado de Anthropic, lo resumió con una frase que se ha citado mucho: "la IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son serios".

Esto no es un fenómeno nuevo, aunque en redes se presente como si lo fuera. Ya en 2023, el Center for AI Safety publicó una declaración de una sola frase sobre el riesgo existencial de la IA, firmada por ejecutivos de OpenAI, Google DeepMind y la propia Anthropic, y el Future of Life Institute propuso una moratoria de seis meses al entrenamiento de sistemas más potentes que GPT-4. Lo que cambia en 2026 es la escala de los modelos, la insistencia del mensaje y, sobre todo, el momento político en el que llega.

El argumento que toma el riesgo en serio

Detrás de las alertas hay un problema técnico real y con nombre propio: el problema de alineación. Consiste en la dificultad de especificar objetivos para un sistema de IA que reflejen completamente lo que de verdad queremos, y no solo lo que le hemos pedido literalmente. El investigador Stuart Russell lo resume con una imagen clásica: el riesgo de obtener "exactamente lo que pides, no lo que quieres" —el mismo dilema del aprendiz de brujo, pero con un sistema que puede actuar a una escala y velocidad que ningún aprendiz humano alcanzaría.

El filósofo Nick Bostrom, una de las voces académicas más citadas en este debate, plantea que una inteligencia artificial suficientemente avanzada podría llegar a ser tan distinta de nosotros como nosotros lo somos de un insecto: no por maldad, sino porque sus objetivos y su forma de razonar dejarían de ser comprensibles o controlables con las herramientas actuales. No hace falta imaginar una IA "malvada" al estilo de ciencia ficción para que el argumento preocupe: basta con un sistema muy capaz, optimizando un objetivo mal especificado, sin que nadie pueda corregirlo a tiempo.

El argumento escéptico: ¿a quién le interesa esta narrativa?

La otra cara del debate no niega que la IA tenga riesgos, pero cuestiona por qué son precisamente las propias empresas que más se benefician del hype de la IA quienes lideran las advertencias más alarmantes sobre ella. Según análisis recogidos por France 24, hay al menos tres motivos que se señalan:

Ninguna de las dos lecturas anula a la otra. Es perfectamente posible que el riesgo técnico sea real y que las empresas que lo señalan tengan, además, incentivos comerciales claros para controlar cómo se regula. La historia de la tecnología está llena de industrias que han pedido regulación... siempre que la escribieran ellas.

"Puede que el riesgo sea real y que, a la vez, a quien más lo señala le convenga estratégicamente ser quien defina las reglas del juego. Las dos cosas caben en la misma frase."

La pieza que lo complica todo: la carrera tecnológica EE.UU.-China

Si el riesgo es tan serio, ¿por qué nadie frena de verdad? Aquí entra la geopolítica. Según la misma cobertura de France 24, el entorno de la administración Trump en Estados Unidos ha rechazado abiertamente ralentizar el desarrollo de IA, con el argumento de que "quien gana la IA, gana" frente a China: cualquier freno unilateral se interpreta como una ventaja regalada al rival.

Es el clásico dilema del prisionero aplicado a la tecnología militar y económica: ambas partes estarían objetivamente más seguras si las dos se contuvieran a la vez, pero cada una acelera por miedo a que la otra no lo haga. El resultado es que la competencia geopolítica ha desplazado buena parte del debate sobre gobernanza de la IA: desde 2022, gobiernos y empresas usan cada vez más el marco de "carrera" para resistir regulaciones domésticas y evitar límites internacionales vinculantes.

Curiosamente, la premisa central de ese argumento —que frenar significa perder frente a China— tampoco es tan sólida como parece: analistas señalan que China no ha dejado de regular su propio sector de IA mientras sigue invirtiendo en él, lo que sugiere que regulación y competitividad no son necesariamente incompatibles, pase lo que pase en el discurso político.

Qué tiene esto que ver contigo si estás eligiendo qué estudiar

Aquí es donde este debate deja de ser una noticia lejana y empieza a importarte de forma concreta. Sea cual sea el desenlace del debate sobre riesgo existencial —que se resolverá, si acaso, en años o décadas, no en esta noticia—, hay algo que ya está pasando ahora mismo: la IA está automatizando cada vez más tareas rutinarias, incluidas muchas que hasta hace poco parecían "de nivel universitario" (resolver ecuaciones estándar, escribir código repetitivo, generar informes).

Lo que la IA generativa no sustituye bien es exactamente lo contrario de lo rutinario: la capacidad de plantear un problema desde cero, decidir qué modelo matemático lo representa, detectar cuándo una respuesta —humana o de una IA— es incorrecta o incompleta, y razonar en varios pasos sobre algo que nadie ha resuelto antes. Esa es, no por casualidad, la definición casi literal de lo que se entrena al estudiar matemáticas en serio.

• Ingeniería y ciencia de datos: quien entiende el modelo matemático detrás de un algoritmo puede auditarlo, mejorarlo y detectar sus fallos; quien solo sabe "usar" la herramienta, no.
• Seguridad y alineación de IA: un campo en crecimiento explosivo a nivel mundial, que combina matemáticas (probabilidad, optimización, lógica formal) con ética y políticas públicas —justo el tipo de perfil que este debate está demandando en tiempo real.
• Cualquier grado STEM tradicional (Física, Matemáticas, Ingeniería, Medicina): la IA acelera el trabajo de quien ya sabe razonar cuantitativamente, y deja fuera a quien dependía de la herramienta para pensar por él.

Dicho de otra forma: no hace falta "elegir bando" en el debate sobre si la IA es una amenaza existencial o una burbuja de marketing para sacar una conclusión práctica y útil hoy. En un escenario en el que la tecnología avanza rápido y nadie —ni los propios expertos— se pone de acuerdo sobre sus consecuencias a largo plazo, la apuesta más segura para un estudiante sigue siendo la misma de siempre: construir una base sólida de razonamiento matemático, que es precisamente lo que no se automatiza ni se vuelve obsoleto, gane quien gane esta carrera.

Este artículo refleja el estado del debate a 16 de septiembre de 2026, basado en cobertura periodística y en la literatura académica sobre riesgo existencial de la IA. Es un tema en evolución constante: las posturas de empresas, gobiernos y expertos citadas aquí pueden cambiar en las próximas semanas.