Las advertencias sobre los riesgos de la Inteligencia Artificial (IA) y que podría acabar con la humanidad dejaron de venir únicamente de críticos de la industria. Ahora también surgen desde una de las empresas que están en el centro de su desarrollo.
Eva Hubinger, investigadora de Anthropic, advirtió sobre los riesgos que representa una IA cada vez más avanzada y respaldó los señalamientos de su compañero Jacob Coxon, quien cuestionó en redes sociales la responsabilidad con la que están actuando las empresas del sector.
En medio de este debate apareció Dario Amodei, cofundador y director ejecutivo de Anthropic, pero su mensaje estuvo lejos de ser tranquilizador.
En un artículo titulado “Debemos marcar el ritmo de la frontera”, planteó que el avance de la IA está superando la capacidad de quienes deben comprenderla y establecer mecanismos para evaluarla y controlarla.
La propuesta de Amodei es, en esencia, reducir deliberadamente el ritmo de desarrollo de los modelos más avanzados para permitir que la investigación en seguridad pueda alcanzarlos.
El planteamiento supone un contraste con la visión que el propio ejecutivo había defendido anteriormente: desarrollar sistemas de IA cada vez más poderosos, pero acompañarlos de mecanismos que permitan hacerlos seguros.
Del optimismo a la cautela
En octubre de 2024, Amodei publicó el ensayo “Máquinas de amorosa gracia”, en el que imaginó cómo una IA suficientemente avanzada podría acelerar décadas de progreso científico en apenas unos años.
En ese escenario, la tecnología podría transformar la investigación científica y la medicina, reducir la pobreza y contribuir a extender de manera significativa la esperanza de vida humana.
Ahora, menos de dos años después, el propio ejecutivo coloca el énfasis en el otro lado de esa ecuación: una tecnología cuyo desarrollo puede avanzar más rápido que la capacidad de la sociedad para comprender sus consecuencias.
¿Quién es Dario Amodei?
Dario Amodei nació el 13 de enero de 1983 en San Francisco, California, Estados Unidos.
Comenzó sus estudios de licenciatura en el Instituto Tecnológico de California (Caltech) y posteriormente se transfirió a la Universidad de Stanford, donde obtuvo una licenciatura en Física.
Más tarde realizó un doctorado en Física en la Universidad de Princeton, donde estudió electrofisiología de circuitos neuronales, y posteriormente fue investigador posdoctoral en la Escuela de Medicina de Stanford.
Su trayectoria académica en física y neurociencia terminó vinculándose con el desarrollo de sistemas de inteligencia artificial, hasta convertirse en una de las figuras centrales de la industria y, actualmente, en una de las voces que piden moderar el ritmo de avance de esta tecnología.
Su carrera en inteligencia artificial comenzó antes de convertirse en uno de los principales ejecutivos de la industria. Entre noviembre de 2014 y octubre de 2015 trabajó en Baidu y posteriormente pasó por Google. En 2016 se incorporó a OpenAI, donde ocupó cargos relacionados con el desarrollo de sus sistemas de inteligencia artificial.
Cinco años después, en 2021, Amodei y su hermana Daniela fundaron Anthropic junto con otros antiguos miembros de OpenAI. Su salida de esa empresa estuvo relacionada con diferencias sobre el rumbo que debía tomar la organización.
La relación entre ambas compañías volvió a cruzarse en noviembre de 2023, cuando el consejo de OpenAI contactó a Amodei para plantearle la posibilidad de sustituir a Sam Altman como director ejecutivo y explorar una eventual fusión entre las dos empresas. Amodei rechazó ambas propuestas.
Desde entonces, Anthropic se convirtió en uno de los principales competidores de OpenAI con Claude, mientras Amodei ganó mayor presencia como una de las voces que participan en el debate sobre los límites y riesgos del desarrollo de IA.
AM