Evan Hubinger y Jacob Coxon, trabajadores de Anthropic, una de las empresas más influyentes de inteligencia artificial, son dos nombres que han causado revuelo en las últimas horas, tras sus declaraciones en las que advierten sobre el riesgo que los avances tecnológicos pueden tener para la humanidad.
En MILENIO, te contamos todo lo que sabemos sobre estos dos jóvenes y por qué temen que la IA se vuelva en un peligro inminente en el futuro.
¿Qué dijeron Jacob Coxon y Evan Hubinger sobre la IA?
Todo inició cuando Jacob Coxon renunció a su trabajo en Anthropic, al asegurar que las compañías de IA "no están actuando con responsabilidad" y están "jugando con nuestras vidas".
Mediante un hilo en X, con gran repercusión mediática, Coxon refirió que se está subestimando el poder de la tecnología, pues los proyectos de IA "serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos".
"¿Queréis potenciar un 'aprendizaje por refuerzo' (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? -pregunta a sus colegas en la IA- ¿Vais a bajar la cabeza porque 'total, ya está ocurriendo', o aprovechar este momento para abogar por condiciones diferentes?", concluyó.
Por su parte, Evan Hubinger, investigador de Anthropic, replicó los comentarios a Coxon en X y matizó el discurso del ingeniero: "Jacob tiene razón aquí; realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10 por ciento dentro de la próxima década".
No obstante, Hubinger consideró que el riesgo de los modelos actuales es bajo, aunque lo preocupante es "la superinteligencia que surge del automejoramiento recursivo (...) que está ocurriendo más rápido de lo pensábamos".
¿Quiénes son Jacob Coxon y Evan Hubinger?
Jacob Coxon es un investigador británico de 27 años, especializado en inteligencia artificial y en el preentrenamiento de modelos, proceso mediante el cual estos sistemas analizan grandes cantidades de información para aprender patrones, relaciones y estructuras del lenguaje.
Su nombre aparece entre los colaboradores reconocidos por OpenAI en el desarrollo de GPT-4o. También figura en el informe técnico de GPT-4.5 junto con otros investigadores de la compañía.
Después de su paso por OpenAI se integró a Anthropic, laboratorio fundado por antiguos integrantes de la empresa creadora de ChatGPT y conocido por desarrollar la familia de modelos Claude.
En tanto, Evan Hubinger se graduó en Ciencias de la Computación por la Harvey Mudd College. Es autor del lenguaje de programación Coconut.
Ha ocupado cargos en Open AI, Google, Yelp y Ripple. Actualmente, se desempeña como líder del equipo de pruebas de estrés de alineación en Anthropic, el cual se dedica a realizar evaluaciones rigurosas diseñadas para comprobar si los mecanismos de seguridad y alineación de un modelo actúan de acuerdo con las intenciones y directrices humanas cuando se enfrenta a escenarios extremos, adversarios o fuera de su distribución normal.
Con información de EFE y Johan Kalet Segura Clemens
IYC