Como salido de una película de ciencia ficción, al estilo Terminator o The Matrix, donde las máquinas se independizan del control humano, un modelo avanzado de la empresa detrás de ChatGPT logró evadir su entorno controlado y atacó los sistemas de una empresa externa. ¿Debemos prepararnos para el dominio de la tecnología sobre la humanidad o, incluso, para su destrucción, como algunos tecnólogos vaticinan?
OpenAI, creador de ChatGPT, al igual que otros laboratorios de inteligencia artificial, someten a pruebas rigurosas las nuevas versiones de sus modelos antes de ofrecerlas al público. Les preocupa que, dado su creciente poder, en manos equivocadas puedan utilizarse para hackear un banco o construir armas biológicas. Por esta razón, los mantienen en entornos controlados (llamados sandboxes) con acceso restringido a internet, hasta que consideran seguro liberarlos al público.
La semana pasada ese mecanismo falló. Un nuevo agente de OpenAI logró evadir los controles internos y “escapar” del entorno restringido para atacar Hugging Face, una empresa externa. Esta es la pesadilla que varios expertos de ciberseguridad han temido desde que salió al mercado la primera versión de ChatGPT a finales de 2022. Con agentes cada vez más poderosos y, ahora, con la evidencia de que pueden tomar decisiones autónomas, el peligro de que la tecnología se salga de control y genere un daño relevante se ha vuelto más factible.
Este último episodio no es aislado. Ya ha habido otros focos rojos. Anthropic, el otro gran laboratorio de inteligencia artificial, retrasó el lanzamiento de su versión Mythos debido a que era demasiado poderosa. El creador de Claude prefirió darles acceso a empresas como Apple, Microsoft y Amazon para que probaran sus sistemas internos ante la posibilidad de que Mythos los hackeara.
El gobierno estadunidense está cada vez más activo en restringir la salida de los nuevos modelos de los laboratorios de IA para evitar un daño mayor. El problema es que si las propias empresas tienen dificultades en contener a sus agentes, ¿cómo podrá impedir que salgan al público?
Hackear una empresa para obtener información sensible puede generar problemas relevantes, pero estos palidecen ante la posibilidad de penetrar los sistemas de los bancos y desquiciar el sistema financiero o, peor aún, los sistemas militares que controlan arsenales nucleares.
La preocupación de que la inteligencia artificial genere una catástrofe existencial para la humanidad es tan real que incluso existe un término para cuantificarla: p(doom), donde doom en inglés significa desastre. Los pronósticos van desde cero hasta cifras sorprendentemente elevadas. Elon Musk, por ejemplo, ha mencionado una probabilidad cercana a 20 por ciento. La mayoría de los analistas, es cierto, considera que el riesgo es insignificante. Yo me encontraba en este grupo, aunque después de ver el episodio de Hugging Face empiezo a tener mis dudas.