Anthropic, la compañía desarrolladora del modelo de inteligencia artificial Claude, confirmó que detectó e interrumpió múltiples intentos de utilizar sus modelos en investigaciones vinculadas al desarrollo de armas biológicas, organizar ataques a gran escala y realizar actos de espionaje.
La revelación forma parte de un informe de amenazas correspondiente a septiembre de 2026, en el que la empresa documenta actividad detectada entre diciembre de 2025 y agosto de 2026 en siete áreas de riesgo.
¿Qué dice el reporte?
La compañía indicó en un informe que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por la bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos.
"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó la empresa en el documento.
Aunque el reporte abarca también operaciones cibernéticas, de vigilancia y de influencia política, la compañía dedicó un apartado específico a explicar cómo investigadores en distintas partes del mundo intentaron aprovechar sus modelos para avanzar trabajos relacionados con virus y toxinas de alto riesgo, y detalló los mecanismos que utilizó para bloquear, limitar o rastrear esas solicitudes.
La compañía explicó que el mal uso biológico de la inteligencia artificial representa uno de los riesgos más serios que enfrenta el desarrollo de modelos de frontera. Durante años, aseguran, existió la preocupación de que un sistema de este tipo pudiera, eventualmente, ayudar a que patógenos ya existentes se volvieran más peligrosos o a que se crearan otros completamente nuevos.
Anthropic incluyó además en otro comunicado una extensa lista de caso detectados en los últimos ocho meses en los que se habían usado sus modelos de IA de manera indebida, incluido el chatbot Claude, en China, Rusia y Yemen.
¿Qué pasa con sus modelos actuales?
Anthropic señaló que las evaluaciones realizadas sobre versiones anteriores de sus modelos, como Claude Opus 4 y Claude Sonnet 4.5, ambas lanzadas en 2025, mostraron que esos sistemas se encontraban muy por debajo del nivel necesario para asistir de forma significativa a un usuario sofisticado en investigación biológica peligrosa.
Por esa razón, las medidas de seguridad aplicadas entonces eran menos estrictas y se enfocaban sobre todo en impedir que usuarios sin experiencia accedieran a información que les permitiera recrear armas biológicas ya conocidas.
Sin embargo, la empresa advirtió que esa certeza ya no aplica a sus modelos actuales, capaces de asistir en una amplia variedad de tareas científicas complejas. Por ese motivo, y como medida de precaución, sus lanzamientos más recientes —en particular Claude Fable 5— incorporaron salvaguardas más estrictas que restringen el acceso a un amplio rango de consultas de investigación biológica de doble uso.
Según la empresa, hasta donde tiene conocimiento, ninguna otra compañía, del sector de la inteligencia artificial o de cualquier otro, había compartido públicamente evidencia sobre el posible mal uso de sus plataformas para el desarrollo de armas biológicas.
Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.
La empresa tecnológica aseguró haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.
-Con información de EFE.
LJ