Los últimos modelos de inteligencia artificial (IA) plantean un riesgo de “fallos correlacionados” que pueden afectar el sistema financiero a nivel “sistémico”, advirtió el Fondo Monetario Internacional (FMI), que instó a los responsables de la formulación de políticas a prepararse para afrontar una brecha de seguridad “inevitable”.
El resaltó que las capacidades de los nuevos modelos de IA “elevan el riesgo cibernético a un potencial shock macrofinanciero”.
La alerta del FMI subraya la creciente preocupación de los reguladores ante el potencial de Claude Mythos, de Anthropic, y otros modelos de IA desarrollados por firmas estadunidenses de tecnología para amenazar el sistema bancario mundial al exponer las debilidades de las defensas cibernéticas de las entidades financieras.
“Los modelos avanzados de IA pueden reducir drásticamente el tiempo y el costo necesarios para identificar y explotar vulnerabilidades, aumentando la probabilidad de descubrir y atacar de manera simultánea las debilidades en sistemas de uso generalizado”, escribieron altos funcionarios del FMI en un blog.
“Como resultado, el riesgo cibernético se centra cada vez más en fallos correlacionados que pueden causar una disrupción en la intermediación financiera, los pagos y la confianza a nivel sistémico”, dijeron, y añadieron que el reciente lanzamiento controlado de Mythos “subrayó la rapidez con la que aumentan los riesgos”.
Anthropic declaró el mes pasado que Mythos “encontró miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web”. Agregó: “Las consecuencias —para las economías, la seguridad pública y la seguridad nacional— pueden ser graves”.
Anthropic planea desplegar Mythos gradualmente, después de su lanzamiento a un pequeño grupo de 40 organizaciones, en su mayoría estadunidenses, para que puedan corregir las vulnerabilidades detectadas. Esto incluye a Amazon y Microsoft, y grandes bancos como JP Morgan Chase.
El lanzamiento a nivel limitado le permitió a algunas empresas recibir más “parches”, correcciones técnicas que solucionan las vulnerabilidades encontradas por Mythos; sin embargo, muchos bancos y grupos financieros fuera de EU se quedaron sin acceso al nuevo modelo de IA, lo que genera preocupación por los niveles desiguales de protección.
Las empresas que tienen acceso a la nueva herramienta del grupo de San Francisco declararon a Financial Times que la acción conjunta “entre los sectores público y privado” es esencial para apoyar a los hospitales, bancos y empresas de servicios públicos vulnerables.
En su primera publicación sobre la creciente amenaza a la ciberseguridad que representan los últimos modelos de IA, el FMI instó a los responsables políticos a mejorar la cooperación internacional.
“El riesgo cibernético no respeta fronteras. Los países emergentes y en desarrollo, que a menudo tienen mayores limitaciones de recursos, pueden verse desproporcionadamente expuestos a ataques dirigidos a regiones con defensas más débiles”, indicó el organismo.
“Los ataques se vuelven más peligrosos cuando su descubrimiento y explotación se extienden rápidamente, con implicaciones para la estabilidad financiera”, agregó.
Al plantear dudas sobre si el sistema financiero podrá resistir un ciberataque importante impulsado por la última tecnología de IA, el FMI indicó: “Si varias instituciones se ven afectadas de manera simultánea, pueden producirse efectos en la confianza, disrupciones en los pagos, problemas de liquidez y ventas forzadas”.
Dado que muchas instituciones financieras utilizan el mismo software y proveedores de servicios compartidos, señaló que los modelos de IA pueden “crear vulnerabilidades simultáneas”.
Resaltó que el software financiero es “más difícil de atacar que la infraestructura de código abierto”. Sin embargo, esta mitigación “se va a erosionar rápido a medida que se amplíe el entrenamiento de los modelos, se difundan las capacidades y se produzcan filtraciones”.
“Las defensas serán vulneradas, por lo que la resiliencia también es una prioridad, específicamente para limitar la propagación de incidentes y garantizar una recuperación rápida”, indicó.
El FMI dijo que las pruebas de estrés cibernético, el análisis de escenarios y la supervisión de los riesgos cibernéticos a nivel de consejo de administración son “indispensables” para defender el sistema financiero, junto con una mejor colaboración público-privada en materia de inteligencia sobre amenazas y respuesta a incidentes.