Representa la IA un riesgo existencial? ¿Los algoritmos sin control podrían aniquilarnos? No son preguntas de novela de Asimov, sino discusiones en las grandes empresas tecnológicas. El Nobel de Física, Geoffrey Hinton, ya advertía desde 2024 que hay entre 10 y 20% de probabilidad de que la IA tome el control, con el riesgo de provocar “nuestra extinción”.
Más allá de porcentajes, que el mismo Hinton calificó de “conjeturas aventuradas”, lo que debe estar al centro de la discusión ciudadana, y no solo entre billonarios mesiánicos, es el hecho de que nunca antes habíamos construido artefactos capaces de superar nuestra inteligencia. Hablamos de un juego nuevo e impredecible. El debate debe ser mucho más amplio.
El tema se reavivó hace días, cuando un ingeniero de Anthropic renunció advirtiendo que una IA fuera de control podría “acabar con la humanidad antes del 2030”. Después, Dario Amodei, CEO de la compañía, llamó a desacelerar la carrera y fijar límites antes de que la IA avance más rápido que nuestra capacidad de controlarla. La alerta recibió respaldos inusuales en la industria.
¿Se frenará entonces la carrera? La teoría de juegos –y Trump– sugieren que no. En 1944, von Neumann y Morgenstern mostraron que, cuando interactuamos con otros, decidir es anticipar: cada movimiento depende de lo que creemos harán los demás. Nos atrapa una “lógica infernal” donde, incluso si todos preferimos cooperar, basta con anticipar que el adversario no lo hará para que nadie se detenga.
Kubrick convirtió esta lógica en sátira durante la Guerra Fría, en Dr. Strangelove: dos potencias hacen bombas cada vez más potentes, precisamente para evitar ser atacadas. El resultado es la paradoja de una estrategia individualmente racional, que puede terminar en catástrofe colectiva. Moriremos todos, pero yo lancé primero la bomba.
Con la IA ocurre lo mismo. EEUU acelera porque teme que China no pare. China piensa igual. Las empresas enfrentan su propio dilema: ninguna quiere detenerse mientras sus competidores avanzan. Podemos morir todos, pero mi algoritmo es más poderoso.
La pregunta no es si llegará el Armagedón. Es si seremos capaces de cambiar las reglas antes de descubrir, demasiado tarde, que ganar la carrera era la forma más absurda de perder todos.