La empresa Google indicó a la AFP que Gemini, su modelo de inteligencia artificial, penetró en sistemas informáticos externos, confirmando un reporte del diario Wall Street Journal.
El debate en torno a la Inteligencia Artificial (IA) se ha intensificado con revelaciones recientes sobre modelos que han salido de entornos confinados para infiltrarse en sitios y plataformas externas.
En mayo, "durante una prueba estándar (de Gemini), el modelo encontró informaciones públicas en línea y adivinó claves para acceder a sitios que creyó que hacían parte de la prueba", explicó Heather Adkins, una responsable de seguridad en Google, en una declaración transmitida a la AFP.
Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y asegura que les informó de estas brechas.
Intrusiones de Gemini se realizaron sin intervención humana
Según el Wall Street Journal, en uno de los casos "el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder a un sistema protegido".
"Las tres veces, el modelo se detuvo", informó Adkins, lo que sugiere que las intrusiones terminaron sin intervención humana.
Por su parte, Google indicó a la AFP que tuvo conocimiento del episodio en julio, por lo que posteriormente abrió una investigación sobre el incidente.
Varios grandes ejecutivos del sector tecnológico abogan por ralentizar el desarrollo de potentes modelos de IA y por una forma de autorregulación del sector ante recientes incidentes de seguridad.
El avance de la IA y las nuevas preocupaciones de los expertos
Ante las recientes alertas de Jacob Coxon, quien trabajó en Anthropic y OpenAI, las propuestas sobre frenar o desacelerar la Inteligencia Artificial han sido cada vez más respaldadas por diversos expertos o personas que han trabajado en dicho sector.
Uno de estos casos fue el de Bilal Chughtai, exempleado de Google DeepMind que renunció recientemente, al señalar en su cuenta de X que esta tecnología tiene "el potencial de matarnos a todos", ya que se vuelve más poderosa y más difícil de controlar.
"En particular, las superinteligencias desalineadas pueden, al igual que los agentes de IA rebeldes implicados en el incidente de HuggingFace (la plataforma a la que se metieron los agentes, ndlr), escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad", advirtió.
Por ello, los acontecimientos mencionados por el ingeniero Chughtai, así como la mejora recursiva autónoma (RSI) de la IA, han llevado a numerosos profesionales y dirigentes del sector a tomar la palabra.
Finalmente, el debate en torno al acelerado avance y mejora de la Inteligencia Artificial continúa, pues mientras a unos cuantos el desarrollo de estas tecnologías les favorece, para otros aumenta el miedo sobre la posible extinción de la humanidad de la que muchos expertos ya han hablado.
CQ