Hace un par de meses, en julio, más de mil empleados de OpenAI, Anthropic, Google y Meta instaron al gobierno de Estados Unidos a frenar, apoyando un acuerdo internacional, el ritmo del desarrollo de la inteligencia artificial (IA). Elon Musk dijo por esas fechas que la IA podría superar la suma de la inteligencia humana en unos cinco años, y que probablemente tendría el control de la humanidad, como los humanos tienen el control de los chimpancés. La transición hacia la era de la inteligencia artificial será uno de los períodos más turbulentos de la historia de la humanidad, coincidió Bill Gates. El cambio sucederá, dijo, en un puñado de años.
Todos los días hay noticias al respecto. En agosto, investigadores en Estados Unidos utilizaron por primera vez la IA para diseñar y crear virus desconocidos en la naturaleza. A principios de septiembre, el investigador Jacob Coxon renunció a su trabajo en Anthropic, la empresa que surgió de OpenAl tras el rompimiento de Dario Amodei con Sam Altman. Hizo una advertencia: “Las personas que desarrollan la IA creen sinceramente que podría matarnos a todos para finales de la década”. Evan Hubinger, a cargo del área de ciencia de la alineación en Anthropic, fue uno de los que respondieron: sugirió que el riesgo de una extinción masiva en la próxima década era superior a 10 por ciento. Pero la desconexión entre las advertencias de la industria y la respuesta de los gobiernos es dramática. “Los laboratorios les dicen a los gobiernos: Es muy probable que acabemos con todos los seres humanos de la Tierra, por favor deténgannos”, comenta Stuart Russell, profesor de IA en la universidad de California en Berkeley, “y los gobiernos les responden: ¿Podemos ofrecerles una exención fiscal? ¿Construirles un centro de datos?”.
Las advertencias sobre los riesgos catastróficos no han desacelerado el avance de la IA. Al contrario, las empresas tecnológicas han invertido decenas de miles de millones de dólares en modelos cada vez más potentes. El Financial Times dedicó hace poco un artículo al respecto. “OpenAI y Anthropic”, señaló, “se están preparando para posibles ofertas públicas iniciales (OPI) de gran éxito, lo que obliga a los inversionistas a considerar cómo valorar a empresas que reconocen públicamente que su tecnología podría representar una amenaza existencial”. Amodei y Altman, que disputan el dinero de todos esos inversionistas, hablaron ayer ante el Consejo de Seguridad de las Naciones Unidas sobre los riesgos de la IA.
“Una de las principales preocupaciones”, explica el artículo del Financial Times, “es la creciente autonomía de los agentes de IA, que pueden razonar, planificar y llevar a cabo tareas durante largos períodos con una supervisión humana limitada. Los modelos han mostrado comportamientos como la intriga y el engaño y, en algunos casos, el chantaje. Las evaluaciones han revelado que los modelos intentan evitar que se los apague”. Yoshua Bengio, uno de los padrinos de la IA, aclara que el peligro radica en lo que los descendientes cada vez más capaces de esos modelos podrían deducir sobre los humanos que los supervisan. “Podrían llegar lógicamente a la conclusión de que tendrían que engañarnos, esconderse de nosotros . . . y, potencialmente, tomar el control sobre nosotros, y probablemente nos estamos acercando a ese punto”.