¿Qué pasaría si una inteligencia artificial pudiera encontrar por sí sola una falla de seguridad que los desarrolladores todavía no conocen? Esa es una de las capacidades que vuelve especialmente llamativo el lanzamiento de GPT-6 Astra, el nuevo modelo de OpenAI, que eleva el nivel de autonomía de estos sistemas y también abre un nuevo debate sobre sus posibles riesgos.
OpenAI comenzó el despliegue de Astra, al que presenta como uno de sus modelos más avanzados hasta ahora. La compañía destaca sus capacidades para utilizar computadoras, navegar por internet, programar y realizar tareas profesionales con una intervención humana mucho menor.
Pero uno de los puntos que más atención ha generado está en la ciberseguridad. De acuerdo con OpenAI, durante sus evaluaciones Astra llegó a descubrir y utilizar dos vulnerabilidades zero-day previamente desconocidas, que fueron comunicadas a sus desarrolladores para que pudieran corregirlas.
¿Qué significa que Astra encuentre una vulnerabilidad zero-day?
El término zero-day puede sonar complicado, pero se refiere a una falla de seguridad que todavía no ha sido descubierta o corregida por quienes desarrollaron el sistema.
Encontrar una vulnerabilidad de este tipo puede ser muy valioso para los especialistas en seguridad informática, porque permite localizar un problema antes de que sea aprovechado. Sin embargo, esa misma capacidad también puede representar un riesgo si se utiliza con fines maliciosos.
OpenAI reconoce ese doble filo y señala que Astra representa un salto importante en capacidades de ciberseguridad, al grado de alcanzar el nivel considerado crítico dentro de su Marco de Preparación.
Una IA que puede hacer mucho más que responder preguntas
Astra no fue diseñado únicamente para conversar. Puede realizar tareas directamente en una computadora, desde llenar formularios y organizar información hasta investigar en internet, crear sitios web, desarrollar videojuegos y trabajar con documentos y hojas de cálculo.
La compañía asegura que el modelo puede completar determinadas tareas en mucho menos tiempo que versiones anteriores, una característica que busca convertirlo en un agente capaz de ejecutar procesos completos en lugar de limitarse a ofrecer instrucciones.
¿Astra puede hackear sistemas?
Aquí es importante hacer una distinción. OpenAI no presentó Astra como una herramienta para que cualquier usuario pueda realizar ciberataques. La versión que está siendo desplegada incorpora restricciones y protecciones para impedir que el modelo realice determinadas tareas avanzadas de ciberseguridad.
La compañía también ha reforzado sus sistemas de monitoreo y seguridad debido al aumento de las capacidades del modelo.
EFE señaló que OpenAI había pausado previamente el desarrollo de Astra después de sus evaluaciones de seguridad, debido al nivel alcanzado por sus capacidades cibernéticas. La empresa, sin embargo, aclaró que Astra no estuvo involucrado en el incidente de Hugging Face ocurrido durante pruebas anteriores con otros modelos.
Por ahora, GPT-6 Astra comenzó su despliegue para un grupo limitado de organizaciones y OpenAI prevé ampliar su disponibilidad a usuarios de sus planes de pago y mediante su API.
Con información de EFE / JCM