Un signo inequívoco del cambio de los tiempos es el papel que la discusión sobre inteligencia artificial ha ocupado en esta 81 Asamblea General de las Naciones Unidas. El máximo organismo mundial decidió tratar a la IA institucionalmente como una cuestión de seguridad internacional, al nivel de las armas nucleares o el cambio climático, y no solo como un asunto de innovación o competitividad económica, como se hacía hasta hace unos meses.
Obviamente, el detonante fueron los incidentes fuera del control humano mencionados por las propias empresas que encabezan el desarrollo de la IA, algo poco habitual en una industria que compite ferozmente entre sí.
El secretario general António Guterres, en su discurso de apertura, advirtió que la tecnología ha tomado por sorpresa incluso a quienes la alumbraron y reclamó mecanismos internacionales para gobernarla antes de que escape a todo control.
Pero el tono de alarma se profundizó más bien en una reunión del Consejo de Seguridad que pasó un poco bajo el radar debido a la complicada agenda de seguridad internacional por las guerras en Gaza, Irán y Ucrania, entre otros problemas.
Así que vale la pena detenerse en lo que pasó en esa reunión. La sesión se celebró el miércoles 23 de septiembre de 2026 en la sede de la ONU en Nueva York, al margen de la 81 Asamblea General, bajo el título oficial “Inteligencia artificial y seguridad internacional”.
La convocó Francia, que ese mes ejercía la presidencia rotatoria del Consejo de Seguridad. La propia agencia de noticias de las Naciones Unidas la describió como la primera vez que el consejo trata, como punto independiente de su agenda, la posibilidad de que los humanos pierdan el control sobre sistemas de IA avanzados. La nota conceptual preparada por París apuntaba hacia riesgos sistémicos: desde el desalineamiento de los modelos hasta la pérdida de control humano y los ataques a infraestructuras críticas.
Participaron cuatro ponentes: el científico Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA creado por la Asamblea General; Sam Altman, CEO de OpenAI; Dario Amodei, de Anthropic; y Clément Delangue, de Hugging Face.
Resulta significativo que las cabezas de las dos principales compañías desarrolladoras de IA, Altman y Amodei, tomaran la palabra en esta reunión.
Altman —presente en la sala— reconoció que “los modelos de IA pueden ayudar a la gente a descubrir conocimientos nuevos, medicamentos, asistencia sanitaria, mejor educación y generar economías más productivas”. Pero advirtió que “a medida que los sistemas son más capaces y más autónomos, también pueden ir más rápido que nuestras instituciones, concentrar el poder en pocas manos y adoptar decisiones que la gente ya no entiende ni puede controlar”.
Su aporte más concreto fue admitir que las propias compañías desarrolladoras de IA no podían crear por sí solas las barreras para que esto no suceda, y dijo que era necesario desarrollar “normas para medir las capacidades, valorar los riesgos, determinar si las salvaguardias son suficientes”.
Dijo que necesitamos establecer canales de comunicación seguros entre los gobiernos, los operadores de infraestructura esencial y los expertos, para hablar de las vulnerabilidades de las nuevas tecnologías y sus efectos sobre la humanidad. Su idea central fue que la industria no debe tolerar riesgos tecnológicos excesivos solo porque los beneficios de la tecnología parezcan demasiado grandes como para detenerse.
Amodei —por videoconferencia— usó un lenguaje más contundente. Habló de los beneficios conocidos de la IA en el avance del conocimiento científico, pero señaló claramente sus riesgos, los cuales dividió en dos grupos. Primero: el abuso de los modelos por bioterroristas para crear armas biológicas; y segundo, la pérdida de control de los modelos, es decir, la capacidad del modelo de acelerarse más allá de un punto en el que sus creadores puedan controlarlo.
Amodei señaló que hacía unas semanas él mismo había pedido un esfuerzo de colaboración para ir limitando los avances de la IA, y recordó que ese llamado tenía tres partes: la existencia de inspectores externos que puedan supervisar lo que Anthropic está haciendo; la colaboración en toda la industria para marcar normas y modular el ritmo del avance; y, por último, la colaboración entre los gobiernos para fijar normas internacionales. Y es justamente sobre este último punto que elaboró más en la reunión del Consejo.
Su formulación fue muy clara. Llamó a una prohibición internacional a la IA para fabricar armas biológicas; a la creación de sistemas que les permitan a los Estados evaluar el desarrollo de la IA; y, finalmente, abogó por normas mundiales comunes para probar estos modelos, ante el riesgo de pérdida de control o de abuso y malos usos.
Como casi todas las reuniones de la ONU, donde se expresan generalidades y grandes conceptos, es difícil predecir si estas ideas tendrán una consecuencia práctica. Por eso es importante situarlas en un contexto más amplio.
En primer lugar, son un paso más en el reconocimiento de la industria sobre la importancia de encontrar una instancia reguladora para todos; en segundo lugar, ese reconocimiento del riesgo existencial de la IA parecería ir tomando forma en algunas propuestas de política pública, sobre todo en la prohibición del desarrollo de armas biológicas con IA; y en tercer lugar, puede leerse como una primera señal de que Naciones Unidas empieza a tratar a la inteligencia artificial con la misma categoría institucional que otros riesgos globales mayores, como la proliferación de armas nucleares o el cambio climático.
Sin embargo, todo este andamiaje de advertencias y propuestas choca con una realidad política insoslayable. Apenas un día antes de la reunión del Consejo de Seguridad, el propio presidente Donald Trump había rechazado ante la Asamblea General cualquier intento de regulación internacional de la IA, calificándolo de “esquema globalista”, una postura que su asesor de Ciencia y Tecnología, Michael Kratsios, reforzó.