En 2009, cuando la inteligencia artificial todavía parecía materia de ciencia ficción, en analista militar Andrew Krepinevich publicó el libro 7 Escenarios Catastróficos (7 Deadly Scenarios). Su advertencia era clara: las guerras del siglo XXI no se parecerían a ninguna anterior. La tecnología rompería viejos equilibrios y convertiría nuestra interdependencia en una vulnerabilidad global. Esa advertencia dejó de ser hipotética.
El poderoso programa Mythos, el nuevo modelo de Anthropic, fue diseñado para identificar –y explotar– vulnerabilidades en sistemas operativos e infraestructuras críticas con velocidad y precisión inéditas. El riesgo es tan alto que la propia empresa limitó su acceso. Hablamos de una herramienta capaz de operar ataques contra bancos, hospitales, telecomunicaciones, aeropuertos, escuelas, gobiernos.
Este parteaguas muestra que la IA debe verse ya como un tema de seguridad global, de estabilidad institucional y de supervivencia civilizatoria, que trasciende las lujosas salas corporativas de Silicon Valley y de Shenzhen.
El politólogo Norberto Bobbio definía la democracia como el gobierno del poder visible. La IA avanza en sentido contrario: modelos cerrados, decisiones opacas, apresuradas y capacidades que pocos comprenden, pero cuyas consecuencias alcanzan a todos.
Esta semana, precisamente, Donald Trump y Xi Jinping discutieron sobre los riesgos de la IA. No es casualidad: Estados Unidos y China concentran cerca del 90% de la capacidad de cómputo del planeta. Una gran disrupción en los sistemas tecnológicos les afectaría, principalmente, a estas dos potencias. Los resultados de este cónclave los conoceremos pronto. Esperemos.
Un poco de historia. La catástrofe de Chernóbil transformó la conversación global sobre energía nuclear. La inteligencia artificial plantea un desafío aún más complejo, por su fácil acceso, distribución y ocultamiento. ¿Estamos a la espera de un nuevo “momento Chernóbil” para actuar?
El siglo XX construyó acuerdos internacionales para contener el riesgo nuclear. El siglo XXI requiere un pacto global para gobernar la IA con transparencia, responsabilidad y participación democrática. Ninguna innovación que pueda alterar el destino común debe decidirse sin deliberación amplia y colectiva.