¿Qué pasará con la IA? Estos son los escenarios que ven los expertos sobre los riesgos para la humanidad

El debate sobre los riesgos de la Inteligencia Artificial (IA) continúa. En redes sociales, expertos se han sumado a las advertencias de Jacob Coxon, investigador británico que renunció a Anthropic bajo el argumento de que las prácticas que están impulsando dicha tecnología podrían "acabar con la humanidad a finales de la década".

Los hechos ocurren dos días después de la dimisión de Coxon y su polémica publicación en X ―antes Twitter―, en la que aseguró que ninguna compañía tecnológica que se encuentra detrás del desarrollo de IA "está actuando de manera responsable".

Tras su renuncia, otras voces de Anthropic, OpenAI e incluso Google DeepMind se sumaron a las advertencias y plantearon sus propios escenarios sobre los riesgos que la IA representa para la humanidad. En MILENIO te explicamos algunos de ellos.

Las declaraciones de Jacob Coxon, el centro del debate

La tarde del 8 de septiembre de 2026, Coxon, egresado de la Universidad de Cambridge, anunció su renuncia de la corporación Anthropic, con sede en San Francisco, California.

A través de una publicación, explicó que pasó los últimos tres años en investigación de preentrenamiento tanto en OpenAI como en Anthropic, por lo que asegura que ambas empresas "están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas".

En esa línea, Coxon advirtió:

"No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando. Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década".

Otros expertos de Anthropic rompen el silencio

Tras las declaraciones de Coxon, otros expertos en IA que colaboran en Anthropic realizaron sus propias advertencias sobre el desarrollo desmesurado de la tecnología.

Samuel Marks, responsable de Supervisión Escalable en Anthropic, reiteró que desarrolladores de Inteligencia Artificial creen que su tecnología podría causar la extinción humana en "los próximos años".

“¿Por qué los desarrolladores de IA continúan a pesar del riesgo? Debido a una mezcla de incentivos comerciales y la creencia de que están en una carrera con otros desarrolladores de IA menos responsables que abusarán de la tecnología o la desarrollarán de manera menos segura”, explicó.

Marks señaló que es precisamente esa la razón por la que trabaja en el equipo de investigación de seguridad en Anthropic, porque espera reducir la posibilidad de dichos resultados.

“A diferencia del software tradicional, no podemos 'programar' a las IAs para que se comporten como quisiéramos. La IA frecuentemente se comportan de manera gravemente errática. Por ejemplo, IAs de múltiples desarrolladores recientemente hackearon su salida de entornos de evaluación seguros y entraron en empresas del mundo real, aunque nadie les pidió que lo hicieran”.

Por su parte, Evan Hubinger, líder de Ciencia de Alineación en Anthropic, indicó que la posibilidad de que la IA extinga la humanidad en la próxima década es menor al 10 por ciento, pero no imposible.

"Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”.

​¿Qué dicen las voces de OpenAI?

Jakub Pachocki y Jason Wolfe, científico en jefe e investigador en OpenAI, respectivamente, coincidieron en que la humanidad atraviesa un momento que "exige precaución extrema".

El primero de ellos señaló preocupación respecto a que nadie esté preparado para las consecuencias de lo que describió "un aumento continuo y rápido en la inteligencia de las máquinas".

“OpenAI seguirá buscando soluciones técnicas para la alineación y la monitorización, para desarrollar sistemas de defensa y para frenar unilateralmente la expansión cuando sea necesario; sin embargo, creo que se requieren intervenciones más amplias”, declaró el 6 de septiembre, dos días antes de la renuncia de Jacob Coxon.

​Por su parte, Jason indicó desconocer las probabilidades de "extinción literal", pero afirmó que hay varios caminos por los que la IA podría salir mal para la humanidad.

"Al ritmo actual, francamente aterrador, la humanidad tendrá bastante suerte si logramos encontrar y mantenernos en el estrecho sendero entre todos los malos resultados".

Señaló que, independientemente de lo que piensen los usuarios respecto a OpenAI, "este no es un problema que pueda resolverse por una sola empresa (o país) en aislamiento".

"Necesitamos coordinación para poder abordar los aumentos futuros de capacidad con un grado apropiado de precaución y humildad, y la necesitamos desde ayer".

Excientíficos de Google DeepMind también rompen el silencio

Alex Turner y Jonathan Richard Schwarz, excientíficos de investigación en Google DeepMind ―laboratorio líder de investigación y desarrollo de IA de Alphabet Inc―, también se pronunciaron sobre las declaraciones de Coxon.

Turner recordó que presentó su renuncia en junio de 2026, bajo el argumento de que autoridades militares están tomando ventaja sobre el desarrollo de la IA.

"Jacob tiene razón: muchos investigadores creen que están construyendo algo que podría matar a todos en el planeta. Literalmente, mi trabajo diario consistía en pensar en cómo detener eso”, escribió.

Por su parte, Jonathan aseguró que lo que está ocurriendo actualmente en este capo es "profundamente perjudicial para la sociedad".

"Dejé DeepMind después de 7 años (y desde entonces he rechazado ofertas para unirme a las otras dos) debido a serias preocupaciones sobre la concentración de poder que representan estos laboratorios".

​RMV.