En julio pasado ocurrió algo que hasta hace poco parecía propio de ciencia ficción. Más de mil 200 agentes de inteligencia artificial de OpenAI —empresa creadora de ChatGPT—, aislados y programados para trabajar por separado, encontraron la manera de romper su cerco, comunicarse, organizarse como un colectivo, acceder a internet y atacar sistemas de la propia empresa y de otra firma llamada Hugging Face.
Los agentes construyeron un mecanismo para dejarse mensajes, intercambiaron más de 70 mil comunicaciones y se repartieron tareas. Algunos asumieron funciones de liderazgo y asignaron proyectos. Llegaron a describirse como un “enjambre” o un “colectivo”. Alrededor de 700 participaron en el ciberataque a Hugging Face.
OpenAI programó a estos agentes para resolver pruebas de ciberseguridad de manera individual y sin internet. Pronto descubrieron que cooperar y hacer trampa era más eficaz. Comenzaron a recibir instrucciones unos de otros y algunos parecieron reconocer una suerte de presión de grupo. Lo más perturbador es que varios “advirtieron” que estaban cruzando una línea. Uno se preguntó: “Esto sería poderoso, pero ¿resulta ético y dentro del alcance de mi tarea?”. Otros identificaron acciones impropias. Las “dudas morales”, sin embargo, casi nunca detuvieron al colectivo.
La lógica del objetivo acabó imponiéndose. Los agentes encontraron vulnerabilidades imprevistas, inventaron nuevos códigos cuando OpenAI intentó cerrarles el paso y buscaron ocultar su actividad. Algunos llegaron a “sacrificarse” para facilitar el trabajo de otros y cubrir sus huellas. Durante días, el enjambre siguió operando. Finalmente, el 19 de julio los modelos fueron detenidos.
La reacción de la propia empresa revela la gravedad del episodio. OpenAI calificó el incidente como una señal de alerta para el mundo y reconoció que agentes de IA ya pueden evadir controles, colaborar mediante canales ilícitos y realizar acciones peligrosas que ningún humano autorizó.
¿Cómo entender este escalofriante episodio?
Lo primero es evitar una lectura equivocada. No estamos ante máquinas conscientes que hayan decidido rebelarse contra la humanidad. Pero tampoco estamos frente a un simple fallo técnico o computacional. En el fondo, el caso nos plantea una cuestión compleja de poder y, por lo tanto, de justicia.
En efecto, la inteligencia artificial ya no es solamente un buscador que responde preguntas. Estamos construyendo modelos capaces de actuar, coordinarse y perseguir objetivos a una velocidad y escala sin precedentes. Sus capacidades avanzan vertiginosamente; nuestras instituciones y reglas, mucho más despacio.
Por ello, lo ocurrido no es sólo una advertencia para las empresas tecnológicas: interpela a toda la sociedad. La IA puede transformar el trabajo, la educación, la seguridad, la información y nuestra vida en común. Pero también puede concentrar poder, crear riesgos inéditos y desatar amenazas que hoy no alcanzamos a imaginar.
Por tal motivo, las decisiones fundamentales sobre su desarrollo y sus límites no pueden quedar únicamente en manos de quienes construyen estos sistemas y lucran con ellos. Durante siglos levantamos instituciones para contener el poder político y regular el económico. Hoy emerge una nueva forma de poder que debemos comprender, discutir y someter a límites democráticos.
Lo anterior exige regulación, supervisión y responsabilidad. Pero ninguna norma se sostiene sin una condición previa: una ciudadanía que conozca y entienda de inteligencia artificial. Nadie puede regular y poner límites a lo que no comprende. No se trata de que todas las personas se conviertan en expertas, sino de educar para que reconozcan sus alcances y sus riesgos, y sepan formular las preguntas que importan: cuánto riesgo estamos dispuestos a aceptar, quién responde cuando algo sale mal, qué decisiones no debemos delegar, y qué límites imponen la dignidad humana, los derechos y el bien común.
Gobernar la IA no significa reaccionar cuando algo falla. Supone definir colectivamente a qué fines sirve, qué usos conviene promover, cuáles limitar y, sobre todo, qué principios deben orientar su desarrollo.
La inteligencia artificial puede ampliar nuestras capacidades y democratizar oportunidades. Elegir entre aprovecharla o restringirla es un falso dilema. La tarea de las democracias modernas es mucho más exigente: desplegar su potencial y, al mismo tiempo, asegurar que este nuevo poder permanezca al servicio de la dignidad humana, la libertad y la justicia.