Saludos desde una sofocante ciudad de Londres, donde la temperatura máxima de ayer, 35.1 grados Celsius, pulverizó el récord anterior de mayo por más de 2 grados. Es preocupante reflexionar que, con más de 3 mil millones de toneladas de dióxido de carbono que se siguen emitiendo a la atmósfera cada mes, el mundo lo que hará es volverse más caliente a partir de ahora.
Durante sus 12 años de pontificado, el difunto papa Francisco se convirtió en uno de los defensores más destacados del mundo a favor de la acción contra el cambio climático. Ahora, su sucesor, León XIV, puso su mirada en otra amenaza potencial para la civilización: una carrera global por la inteligencia artificial (IA) que corre el riesgo de descontrolarse.
Los temores sobre la seguridad de la IA se intensifican, pero también la carrera por dominar.
“¡El Papa!”, se dice que exclamó Stalin con desdén ante el disgusto del pontífice. “¿Cuántas divisiones tiene?”.
Algunos directivos de empresas de inteligencia artificial pueden pensar en términos similares luego de la publicación esta semana por parte del papa León XIV de un extenso tratado que aboga por el “desarme” de la IA mediante una regulación coordinada a escala mundial.
La encíclica, de más de 42 mil palabras, insta a la creación de “instrumentos regulatorios adecuados, capaces de defender la justicia y frenar los efectos distorsionadores del poder tecnológico”, para abordar los riesgos del desempleo masivo y la guerra impulsada por la IA.
“Desarmar la IA significa liberarla de la mentalidad de la ‘competencia armada’, que… implica una carrera por algoritmos cada vez más poderosos”, escribió el Papa.
Pero si bien las preocupaciones del Papa son ampliamente compartidas —incluso en el propio sector de la inteligencia artificial— su llamado a poner fin a la carrera armamentista de la IA se topa con algunos problemas básicos de la teoría de juegos. Aunque sus ejecutivos teman los riesgos de acelerar el desarrollo de la tecnología, las compañías del sector se ven obligadas a impulsarlo por temor a quedarse atrás respecto a sus rivales. Y la misma lógica se aplica a los gobiernos.
Medidas de contención
Esta lógica quedó patente la semana pasada en la Casa Blanca, cuando Donald Trump canceló abruptamente la ceremonia de firma prevista para una orden ejecutiva que le pediría a las principales empresas de IA que sometieran de manera voluntaria sus modelos a revisiones gubernamentales.
La medida se preparó después de que la empresa desarrolladora de inteligencia artificial Anthropic informó a funcionarios estadunidenses sobre su nuevo modelo Mythos —que todavía no tiene su lanzamiento al público— advirtiendo que una IA tan avanzada conllevaba nuevos riesgos de ciberseguridad.
Trump dijo que la orden habría puesto en peligro la posición de EU en la carrera global por la IA. “Le llevamos la delantera a China, llevamos la delantera con todos, y no quiero nada que se interponga en nuestro camino”, explicó.
Esta medida se alinea con la postura política de fuerte apoyo a la industria que mantuvo Trump. Su administración ha mostrado mucho menos interés en la regulación restrictiva que la Casa Blanca de Joe Biden, algo que generó fuertes críticas por parte de algunos inversionistas. “Estaban intensificando una campaña para intentar acabar con la IA”, afirmó el inversionista de capital riesgo Marc Andreessen el año pasado.
Competencia estratégica
El cabildeo de nuevos inversionistas como Andreessen posiblemente influyó en el enfoque permisivo de Trump; sin embargo, el factor clave que da urgencia a la estrategia de inteligencia artificial de EU es el impresionante progreso que se está logrando en China, en particular con la aparición de un modelo de IA creado por la startup DeepSeek, que logró competir con el desempeño de sus rivales estadunidenses utilizando una fracción de la potencia informática.
Pekín se comprometió a aprovechar estos avances, fijando la mira en el liderazgo mundial en IA en el nuevo plan quinquenal que se presentó en marzo.
Incluso la Unión Europea —que desde hace mucho defiende un enfoque cauteloso para el desarrollo de la IA— está reconsiderando su postura a medida que esta carrera se intensifica. Este mes acordó de manera provisional un pacto para mitigar el impacto de su emblemática Ley de IA, que exigirá a las empresas una amplia transparencia sobre cómo manejan las aplicaciones de inteligencia artificial de “alto riesgo”. Los requisitos clave se aplazaron más de un año, mientras que el uso de la tecnología en maquinaria quedará en gran medida excluido de la normativa.
Esta última disposición surgió después de la presión ejercida por compañías industriales que advirtieron sobre las repercusiones en la competitividad europea. La ley también encontró resistencia por parte de empresas de IA como OpenAI (cuyo líder, Sam Altman, prometió en su momento “apoyar enérgicamente toda regulación”).
“Mínimamente onerosa”
Los funcionarios de la Unión Europea pueden señalar con razón que —con excepción de nuevas concesiones— la mayoría de las disposiciones de esta ley entrarán en vigor. Mientras China y EU no están dando rienda suelta a las empresas de IA.
Los desarrolladores chinos deben cumplir las normas que restringen el contenido políticamente sensible, además de otras que exigen un etiquetado claro de los videos hechos con IA. En un nuevo plan de trabajo, el Consejo de Estado de China anunció que “acelerará la legislación integral para el desarrollo seguro de la inteligencia artificial, incluyendo áreas como ciberseguridad y protección de datos.
En marzo, la Casa Blanca publicó un marco normativo sobre IA que contemplaba nuevas reglas para proteger a los niños y los derechos de propiedad intelectual, así como medidas para evitar que el sector incrementara las facturas de electricidad de los estadunidenses.
Ninguna medida, en cualquier economía, cambiará la peligrosa dinámica que el papa y muchos otros señalan: una tecnología disruptiva que se desarrolla e implementa a ritmo vertiginoso.
En todo caso, la estrategia de Trump invita a acelerar aún más ese ritmo. Propone medidas para impedir que estados como California impongan “cargas indebidas” mediante sus propias leyes de seguridad de la IA, garantizando un “estándar nacional mínimamente oneroso” para apoyar la innovación y acelerar la implementación de la tecnología.
Un premio resplandeciente
Este enfoque permisivo se ganó el apoyo —o al menos el consentimiento silencioso— de la mayor parte del sector de la IA en EU. Una excepción notable es Anthropic, cuyo director ejecutivo, Dario Amodei, advirtió en un ensayo de enero sobre “el apoyo del gobierno a políticas extremadamente desreguladoras en materia de IA”. El cofundador de la firma, Christopher Olah, habló junto al papa en el Vaticano el lunes, respaldando su mensaje “profundamente oportuno”.
Sería fácil descartar la comunicación pública de Anthropic como una estrategia magistralmente elaborada, con el objetivo de construir una imagen de empresa de IA “responsable”; sin embargo, la compañía asumió un riesgo real al intentar limitar el uso de su tecnología por parte del gobierno de EU con fines militares. Además, ha sido mucho más coherente que la mayoría de sus competidores en su apoyo a una regulación seria, desde su fundación en 2021 por empleados de OpenAI preocupados por el enfoque de esta última en materia de seguridad.
Aun así, ni siquiera Amodei oculta la implacable lógica de la carrera armamentista de la IA. “Si todas las empresas de los países democráticos detuvieran o desaceleraran su desarrollo, ya sea por acuerdo mutuo o por decreto regulatorio, los países autoritarios simplemente seguirían adelante”, escribió en su ensayo.
Amodei argumentó que, al restringir la venta de chips y equipos de fabricación a China, EU y otras democracias pueden ganar tiempo para desarrollar un marco legal común que les permita avanzar en el desarrollo de la IA con mayor cautela, sin dejar de estar por delante de Pekín.
Pero Anthropic no tuvo mucho éxito a la hora de convencer a los funcionarios estadunidenses de este argumento. “La IA es tan poderosa, un premio tan resplandeciente, que resulta muy difícil para la civilización humana imponerle cualquier tipo de restricción”, lamentó Amodei.
Es posible que el papa tenga razón al preocuparse por el ritmo de desarrollo de la IA. Sin duda, tiene razón al sugerir que frenarla requerirá una estrecha coordinación internacional entre los gobiernos, pero a medida que se intensifica la carrera global por explotar esta tecnología, un pacto de este tipo entre las principales economías parece una perspectiva muy poco probable.
Lecturas recomendadas
-El presidente de BP, Albert Manifold, fue destituido por “serias preocupaciones” sobre su comportamiento y su enfoque en materia de gobernanza.
-Seis Estados miembros, entre ellos Grecia, Polonia y República Checa, instan a la Unión Europea a proteger a sus industrias de los costos del carbono ante los precios de la energía, que se encuentran en niveles “excepcionalmente altos”.