El desarrollo de la inteligencia artificial (IA) se encuentra en medio de un debate entre organismos internacionales, gobiernos y CEOs de las principales empresas del sector, luego de una serie de eventos que han salido a la luz y evidencian la vulnerabilidad de las compañías ante hackeos o robo de datos de clientes que están bajo su resguardo.
En entrevista con MILENIO, Carlos Quijas, chief risk & security officer de Onesec, empresa mexicana especializada en ciberseguridad, gestión de riesgos digitales y gobernanza de IA con operaciones en México, América Latina y Estados Unidos, explica qué está ocurriendo actualmente con la IA y qué es lo que realmente preocupa en temas de seguridad. ¿Estamos listos?
“Las amenazas, los fraudes, los intentos de extracción de información y los intentos de hackeo van a ocurrir más”, aseguró Quijas.
De acuerdo con el especialista, los fraudes financieros o robo de información existían antes de que operaran las computadoras, pero ahora con el uso de herramientas como la inteligencia artificial y sus agentes, se ha creado una nueva forma de generar amenazas para cometer estos delitos, pero de manera más acelerada.
Sin embargo, lo más grave que observa el especialista es que se busca resolver una vez que ocurren estos delitos, pero sin una estrategia de prevención
“Como amenaza, (la IA) sin duda va a facilitar más que las empresas puedan ser susceptibles a cosas que ya enfrentaban, pero de manera más robusta”, alertó.
En las últimas semanas se ha dado a conocer información de hackeos cometidos con herramientas como la inteligencia artificial.
Según una nota publicada por Reuters, en mayo pasado agentes de IA de OpenAI lograron obtener informaciónde las cuentas de usuarios de Hugging Face y exploraron el sitio en busca de vulnerabilidades, lo que posteriormente dio lugar al robo de las credenciales digitales de un usuario.
Hugging Face es una plataforma y comunidad en línea de código abierto conocida como el "GitHub de la inteligencia artificial", donde desarrolladores y empresas comparten, descargan y prueban modelos de IA.
OpenAI reveló el 21 de julio, que unos agentes de IA rebeldes eludieron los controles internos, accedieron a la red abierta y coordinaron acciones que la compañía describió como "un incidente cibernético sin precedentes".
En tanto, investigadores de la start-up Hacktron AI accedieron a cuentas de ChatGPT de empleados de OpenAI utilizando un modelo de inteligencia artificial de Anthropic.
Carlos Quijas, chief disk & security officer de Onesec, detalló que el incidente ocurrido en OpenAI, uno de los proveedores de modelos Frontier en el mundo (modelos de inteligencia artificial de frontera), fue una prueba entre varios modelos de siguiente generación.
“Una de las maneras más interesantes para ponerlos a prueba es asignarles tareas que son prácticamente imposibles de completar. Les dan información incompleta, les piden que hagan cosas que son prácticamente imposibles como para determinar cuál es su nivel de capacidad y qué es lo que hacen”, dijo.
Explicó que uno de estos modelos que estaban probando notó que le hacía falta parte de la información y asumió que podía ser “un error de alguien”, cuando en realidad ése era el diseño de la prueba.
Posteriormente, dicho agente “encontró la manera de escribir en un elemento de infraestructura que no tenía porqué haber podido escribir, fue falla de seguridad de OpenAI, y escribió un archivo que decía, ‘si alguien tiene este archivo que me hace falta, por favor démelo’”.
Los agentes empezaron a compartir información y pidieron ayuda en coordinación para resolver.
“Después, uno de esos agentes logró hacer un ataque de seguridad sobre la infraestructura,y logró conectarse a Internet, con lo cual empezaron a hacer varias cosas. Entonces, no fue solamente una víctima, no fue Hugging Face en este caso, sino el mismo OpenAI”, añadió.
De acuerdo con el especialista, la pregunta importante es saber ¿cuáles son las capacidades de un agente de inteligencia artificial y cuáles deben ser los controles que deben existir sobre estos?
Quijas asegura que este tipo de eventos permiten entender a la humanidad cuál es el potencial que tienen estos agentes y con base en ello empezar a determinar los controles adecuados para que no vuelva a ocurrir.
“Es decir, la banca si ha tenido fraudes, ha tenido hackeos…lo único que va a ocurrir es que estas personas que antes lo realizaban van a poderlo hacer con mayores capacidades y que personas que antes no tenían la capacidad de realizarlo puedan empezar a ejecutar con cierto nivel de éxito”, dijo.
¿Qué es un GTGs?
Manifestó que la propia Antropic, que creó el modelo de inteligencia artificial Cloud, publicó un reporte en agosto pasado sobre cómo actores maliciosos están ocupando este tipo de herramientas, a los que denominó GTGs.
Dichas siglas significan Generative Threat Groups, se traducen como Grupos de Amenaza Generativos, en los cuales algunos tienen varios propósitos.
El mismo reporte habla sobre hackeos de principio a fin realizados a través de herramientas como Cloud, de otro tipo de eventos como fraudes, incluso a través de aplicaciones de citas.
“Este tipo de amenazas existían antes de las computadoras. Y que las computadoras se convirtieron en un elemento para poderlo hacer con mayor éxito. En esa misma medida, ahora las herramientas de inteligencia artificial se convierten en la nueva manera en la que estos actores de amenaza van a buscar perseguir sus fines”, asegura.
La IA puede asumir dos roles: experto
Quijas aseguró que la IA tiene dos propósitos, el primero, como una herramienta para hacer el bien y, la otra, para hacer el mal.
Por lo anterior, las empresas deben determinar cómo la van a ocupar, "como herramienta para hacer el bien" y eso requiere todo su esfuerzo.
En este contexto, manifestó que en esta decisión cabe el tema del gobierno de AI que sirve para determinar en dónde y cómo va a implementar las herramientas de inteligencia artificial.
"Las empresas, desafortunadamente en este momento, están queriendo innovar por innovar, por no quererse quedar atrás y pareciera que el concepto de innovación ahora es ocupar inteligencia artificial cuando eso solamente es una herramienta", dijo.
“Lo único que hace es que se genere muchísimo gasto sin beneficio”, añadió.
Estudios del MIT NANDA, que hace alusión al estado de la inteligencia artificial generativa para los negocios, "dice que 30 o 40 mil millones de dólares después podemos decir que solamente uno de cada 10 o uno de cada 20 proyectos fue exitoso".
MIT NANDA (Networked AI Agents in Decentralized Architecture) es una iniciativa del MIT Media Lab lanzada en 2025 bajo la dirección del profesor Ramesh Raskar, tiene como objetivo construir la infraestructura fundamental para una red descentralizada de agentes de inteligencia artificial.
Por lo anterior, aseguró que existen tres pasos que las empresas no deberían pasar por alto a la hora de utilizar la IA como herramienta:
- Prevenir: Establecer lineamientos claros de alineación estratégica y control de acceso a los datos.
- Detectar: Monitorear continuamente la infraestructura para identificar anomalías o intromisiones a tiempo.
- Responder: Contener los incidentes con protocolos de respuesta rápida ejecutados por personal capacitado.
Reiteró que el gobierno de inteligencia artificial es una estructura dentro del gobierno corporativo de cada empresa en la que debe de haber uno o más líderes, de acuerdo al tamaño de la empresa.
"Aceptemos que este tipo de retos no se van a resolver con las herramientas del pasado", expresó Quijas.
Para garantizar una transición segura, la industria debe implementar marcos de gobernanza y regulación.
El experto explica que mientras en la Unión Europea ya aplica de forma estricta la EU AI Act con sanciones elevadas, en América Latina y Estados Unidos se analizan diversos esquemas de control de riesgos.
Para Quijas, la situación actual es comparable con los inicios de la aviación o la energía nuclear, donde los accidentes sirvieron para establecer normativas estrictas y alcanzar la madurez operativa.
"Si vamos solamente a gestionar los riesgos, no vamos a poder nunca aprovechar las oportunidades... Y si solamente vemos las oportunidades, vamos a ser negligentes", concluyó.
MRA