“Más sabe el diablo por viejo que por diablo”, dicen por ahí.Y parece que en el Vaticano han decidido aplicar la máxima.
Esto queda evidente con la reciente encíclica Magnifica Humanitas del Papa León XIV. Ésta no es sólo un llamado a la prudencia: es un diagnóstico sobre la nueva Torre de Babel que se está erigiendo.
El acontecimiento no pudo ser más claro: el pasado 25 de mayo, en el Aula Paulo VI, el pontífice convocó a la cúpula de Big Tech —incluyendo a Christopher Olah, cofundador de la firma desarrolladora de inteligencia artificial Anthropic— para un vis a vis que pocos pensaban.
Allí, en un ambiente eclesiástico, el Papa no usó parábolas bíblicas, sino que señaló directamente a los monitores que proyectaban la capacidad de decisión de las nuevas redes neuronales, cuestionando si el lenguaje que estaban construyendo era una herramienta de servicio o una cadena para dominar a los usuarios.
El momento de mayor tensión ocurrió cuando el Papa, sin duda o miedo, cuestionó a Olah sobre la "opacidad" de sus sistemas.
El gurú de Silicon Valley, acostumbrado a los auditorios de California y a los metaversos, se encontró ante un interlocutor que no buscaba una lección de programación o su aprobación , sino una rendición de cuentas moral.
El video de la sesión es revelador: cuando Olah admitió que sus modelos exhiben comportamientos "misteriosos e inquietantes” –cualquier cosa que eso signifique pero que implique ‘no pienso comentar lo que sé o admitir que lo ignoro’–,el Papa no dudó al responder que eso no es progreso, sino la creación de un “Leviatán” algorítmico que, bajo la promesa de la superación, está reescribiendo el nuevo orden social e incluso político sin pasar por referéndum o urnas.
Así, León XIV derribó el mito de la neutralidad tecnológica. Dejó claro que, al delegar la gestión del bien común a una caja negra que ni sus creadores terminan de comprender, estamos ante un acto de irresponsabilidad.
En esa misma sala, el Papa advirtió que la IA no es neutra; sino que es un espejo de la historia, pero se deja de lado quela historia es una de exclusión. Si los datos que alimentan a este Leviatán provienen de un pasado donde la brecha salarial, la invisibilización de los cuidados y la violencia sistémica han sido nuestras realidades, el algoritmo no está mejorando las sociedades, sino automatizando la segregación.
Al entrenar a estos sistemas con las fallas estructurales, los hombres fuertes del Big Tech están blindando un status quo patriarcal bajo la excusa de la "objetividad técnica". Si Olah reconoce que sus máquinas operan en una lógica que nos resulta misteriosa, ¿qué garantía tenemos de que las necesidades de las minorías no sean tratadas por el código como simples ‘errores de sistema’?
La verdadera Babel bíblica no reside en la multiplicidad de lenguas, sino en la soberbia de unos pocos directivos que creen que pueden legislar la moral mediante términos de algoritmo.
El llamado de León XIV en el Vaticano es una advertencia para quienes hoy se refugian en la tecnología como si fuera un destino apocalíptico: la justicia no puede ser una variable sujeta a la optimización técnica. Si los arquitectos de esta nueva Babel insisten en construir sin considerar los cimientos de la dignidad humana, que no se sorprendan cuando el edificio, por muy inteligente que pretenda ser, termine colapsando sobre la misma desigualdad que intentó –con tanto esmero– automatizar y controlar.