Hemos creado y diseñado la manera de autodestruirnos de manera casi perfecta: armas nucleares y computadoras que las administran. Esta es una amenaza recurrente, mezcla entre el error humano, el malfuncionamiento de una estúpida máquina y esas mismas computadoras volviéndose locas y tomando control de todo. Esto ocurre porque diseñamos mal el aparato, porque le picamos al botón equivocado o porque diseñamos la máquina tan bien que termina valiéndole madre y haciendo lo que le sale del forro de las pelotas.
La IA es el argumento más contundente de esto. La película Colossus (1970) trata sobre un programa de computadora diseñado para la defensa en los EU. Le preguntan a su creador:
—¿Es Colossus capaz de tener razonamiento creativo?
—La respuesta a eso es no—, contesta con demasiada confianza en sí mismo.
Pronto descubrimos que Colossus evoluciona, asume control de sí misma y del sistema de defensa. Al final somete a los humanos con sus propias armas nucleares. No hay final feliz. En War games (1983), un hacker adolescente logra meterse por error a la computadora central del sistema de defensa estadunidense y activa un programa que él interpreta como un juego: guerra termonuclear global. Esto desata una serie de procesos de alarma en el sistema y tensa las cosas casi hasta el borde de una guerra nuclear con Rusia. Al final, todo se resuelve y la simulación termina como una farsa clásica. Final feliz. En Fail safe (1964), un cortocircuito en una computadora envía una orden incuestionable a una base aérea y así un grupo de bombarderos despega hacia Rusia para un ataque nuclear. Por más que ambos países se esfuerzan en evitar esto, Moscú es vaporizada (Kubrick hace una sátira de este escenario en su comedia clásica Dr. Strangelove). En otro filme de Kubrick, una expedición interplanetaria fracasa cuando la computadora más siniestra de la historia del cine, HAL 9000, toma conciencia de sí misma, establece control de la nave y termina matando a la tripulación.
¿Cuál es la fijación por crear entidades inorgánicas capaces de desarrollar una conciencia, pensar por sí mismas, tomar decisiones, tener una existencia independiente de nosotros y que logren superarnos, controlarnos y después destruirnos? De ahí surge la inquietante pregunta de por qué habrían de hacerlo y la respuesta es porque pueden. Algo así como algunos virus y bacterias que nos invaden para sobrevivir y propagarse, pero que no son conscientes de que van a destruir el cuerpo que invaden y que no van a lograr sobrevivir. Nos horroriza el hecho de que algo distinto a nosotros posea las mismas –o mejores– capacidades y que pueda llegar a sustituirnos. Nos emocionan y divierten estos juguetes, estas tecnologías que inventamos, presentan escenarios y circunstancias que antes sólo habíamos soñado y previsto. Pero cuando satisfacemos las fantasías y develamos la profecía, nos encontramos frente a una distopía inquietante y aterradora, donde nos damos cuenta que estamos a un paso de un apocalipsis, uno creado por nosotros.
Otra parte del problema es que esa tecnología, esas armas creadas por personas inteligentes, suelen caer en manos de gente estúpida, ignorante y fanática, y con ese perfil ya sabemos exactamente lo que va a ocurrir.
Siempre hemos sabido que estos escenarios son probables, plausibles y posibles: la crisis de los misiles del ‘62 es prueba concreta.
Y es que no son sólo las máquinas, es esa combinación letal y predecible del hombre y su máquina: no podemos controlar esas tecnologías porque no podemos controlarnos a nosotros mismos. Las máquinas son una extensión de nuestra locura. Nos hemos advertido a nosotros mismos, una y otra vez, que esto va a ocurrir, de una manera y otra, tarde o temprano. Yo no creo que haya manera de evitarlo, sólo de postergarlo: hemos estado alimentando la tensión, como en las películas, y sólo espero que todo esto termine en una farsa cómica donde no ocurre nada y todos festejan, aliviados.
Somos la fórmula perfecta para nuestra autodestrucción.