No es ciencia ficción. Los modelos actuales de inteligencia artificial (IA) podrían tomar el control de nuestras computadoras y, en seis o doce meses, atacar la economía a través de internet, causando pérdidas por cientos de miles de millones de dólares.
La advertencia no proviene de un detractor trasnochado ni de un empleado resentido. Quien lo dijo es Dario Amodei, director general de Anthropic, la compañía que, junto con OpenAI, encabeza los laboratorios privados de IA.
La carta que publicó el sábado, titulada We Must Pace the Frontier, provocó una reacción en cadena. Sam Altman, de OpenAI, escribió que coincidía con Amodei, y Elon Musk, de xAI, remató con tres palabras: “Dario is right”.
Quien desentonó fue Donald Trump, que se niega a limitar la IA porque eso podría entregarle a China el triunfo en la carrera. “Quien gana en IA, gana”, resolvió.
La carta de Amodei se resume en dos ideas: precaución antes que velocidad y prudencia antes que ganancia. La clave es avanzar sin perder el control humano sobre la tecnología.
No apostar por la IA implicaría perder grandes oportunidades en salud, economía o calidad de vida; pero sería irresponsable seguir avanzando sin control.
Su propuesta es regular el ritmo de la frontera, es decir, el punto más avanzado de la IA, en tres niveles: controles en las empresas, coordinación entre compañías y cooperación entre países. Lo primero consiste en auditorías externas, con evaluadores incrustados en las propias empresas, que verifiquen el alineamiento de los modelos. Lo segundo, en acuerdos entre los grandes laboratorios para que la competencia no se coloque por encima de la seguridad. Y lo tercero, en acuerdos entre naciones, empezando por el más realista: prohibir el uso de la IA para fabricar armas biológicas.
Zoom: ¿Qué quiere decir Trump con “quien gana en IA, gana”? Seguramente se refiere a la carrera entre Estados Unidos y China. Pero la frase admite otro contenido: triunfará quien se asegure de que la IA no destrone a la inteligencia humana.