Evan Hubinger, investigador de Anthropic, advirtió que la inteligencia artificial podría llegar a representar una amenaza para la supervivencia de la humanidad, por lo que aseguró que dentro de la compañía existe la preocupación de que los sistemas de IA puedan llegar a matar a todos los seres humanos.
En una publicación en X, Hubinger respondió a las advertencias de Jacob Coxon, otro investigador de Anthropic que anunció su renuncia a la empresa por considerar que el desarrollo de estos sistemas no se está realizando con suficiente responsabilidad.
“Realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió Hubinger.
El investigador añadió que, desde su perspectiva personal, existe más de 10 por ciento de probabilidad de que esto ocurra durante la próxima década.
¿Por qué preocupa la IA?
Hubinger explicó que su principal preocupación no son los modelos de inteligencia artificial actuales, sino una posible superinteligencia capaz de mejorar sus propias capacidades.
Según el investigador, los riesgos de los sistemas actuales son bajos, pero el escenario podría cambiar con el desarrollo de una inteligencia artificial capaz de realizar procesos de automejora.
Hubinger señaló que esta posibilidad de automejora recursiva estaría avanzando más rápido de lo que habían previsto anteriormente.
¿Anthropic tiene un plan para evitarlo?
El investigador reconoció que Anthropic está haciendo todo lo posible para enfrentar estos riesgos, pero admitió que la compañía todavía no cuenta con una solución para uno de los principales problemas relacionados con el desarrollo de una superinteligencia.
“Todavía no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”, afirmó.
El alineamiento se refiere a los objetivos y comportamiento de un sistema de inteligencia artificial, con la idea de que permanezcan de acuerdo con las intenciones humanas, incluso si sus capacidades son mucho mayores.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
¿Qué dijo Jacob Coxon?
Los comentarios de Hubinger surgieron después de que Jacob Coxon anunciara su salida de Anthropic y cuestionara la forma en que las empresas de inteligencia artificial están avanzando hacia sistemas cada vez más capaces.
Coxon sostuvo que, tanto Anthropic como OpenAI, conocen los riesgos asociados con el desarrollo de una IA avanzada, pero consideró que ambas compañías continúan dentro de una carrera por alcanzar primero sistemas cada vez más potentes.
Su advertencia provocó la respuesta de Hubinger, quien coincidió con la preocupación sobre los posibles riesgos para la humanidad, aunque aclaró que considera bajo el peligro que representan los modelos actuales.
La discusión vuelve a poner sobre la mesa uno de los principales debates dentro del desarrollo de inteligencia artificial: qué tan rápido deben avanzar las empresas y si existen suficientes mecanismos de seguridad antes de crear sistemas con capacidades superiores a las humanas.
AG