El fundador de Anthropic, Dario Amodei, afirmó que "la industria mintió" sobre el peligro de la inteligencia artificial (IA) por lo que el Gobierno y los ciudadanos deben intervenir, según una entrevista publicada tras la polémica que él desató el sábado por los riesgos de la tecnología.
"No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", declaró Amodei en una entrevista al programa 'Sunday Morning' de CBS.
Rechaza "prohibición completa"
El director de Anthropic hizo estas declaraciones tras publicar el sábado un ensayo para urgir "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector de la IA.
Aunque Amodei advirtió en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en su entrevista rechazó una "prohibición completa" de la tecnología.
"No creo que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios", señaló el empresario.
El ejecutivo consideró "el dilema más duro" del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología.
Aún así, reconoció que se siente "incómodo" de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una "combinación de gobiernos democráticos" que tengan una "gobernanza conjunta" y un monitoreo de las compañías de IA.
"Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta", apuntó.
Pese a sus alertas, el presidente estadunidense, Donald Trump, y el líder de la Cámara de Representantes, Mike Johnson, consideraron que el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo en la tecnología.
Polémica en Anthropic
Las declaraciones de Amodei se dan luego de que un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.
El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.
"Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor", escribió Coxon en su cuenta de X el martes.
LJ