En medio de la discusión que ha generado el desarrollo de los sistemas de inteligencia artificial (IA) y los posibles riesgos que esto conlleva, la empresa Anthropic, desarrolladora del modelo Claude, anunció una actualización en sus políticas de uso.
Además de los ajustes implementados para restringir el uso de sus modelos para actividades engañosas o con fines bélicos —como el desarrollo de software para guiar drones—, entre los nuevos lineamientos de Anthropic resaltó la prohibición de "comportamientos abusivos o crueles" por parte de sus usuarios.
Pero, ¿a qué se refiere la empresa? En MILENIO te contamos lo que establecen sus nuevas políticas de uso.
¿Qué modificó Anthropic sobre "comportamientos abusivos" hacia sus modelos de IA?
Las nuevas políticas de uso fueron reveladas a través del sitio oficial de la compañía el 8 de octubre de 2026. Sin ofrecer detalles sobre lo que motivó esta medida, Anthropic añadió una prohibición relacionada con el comportamiento abusivo, prolongado e innecesario hacia sus modelos de IA.
En su comunicado, la empresa encabezada por los hermanos Dario y Daniela Amodei advirtió que esta nueva política está pensada "para aplicarse únicamente en casos extremos, en los que los usuarios actúen cruelmente, de manera repetida, hacia nuestros modelos sin ningún propósito aparente".
Pese a la ambigüedad de sus criterios, Anthropic sostuvo que la prohibición no abarca "manifestaciones comunes de frustración" de los usuarios, críticas o conversaciones relacionadas con "temáticas creativas oscuras".
Esta modificación a sus políticas, según Anthropic, se alinea con una configuración ya existente en un par de modelos de Claude desde 2025, la cual permite a la IA finalizar los chats en casos excepcionales de usuarios que "persisten con peticiones dañinas".
Como parte de una evaluación al modelo Claude Opus 4, Anthropic identificó que su sistema mostraba una "marcada preferencia" y un "patrón de aparente angustia" al interactuar con usuarios que solicitaban contenido sexual que involucraba a menores, o bien, que buscaban información que facilitara actos de violencia a gran escala.
"En todos los casos, Claude sólo debe usar su función para finalizar conversaciones como último recurso cuando hayan fallado varios intentos de redirección y se haya agotado la esperanza de una interacción productiva", especificó Anthropic en un reporte de agosto de 2025.
Anthropic ajusta medidas contra vigilancia, fraudes y armas
En el comunicado del pasado 8 de octubre, la empresa explicó que, ante el creciente uso de los modelos de IA con fines maliciosos, fue necesario robustecer sus políticas en torno a conductas prohibidas para sus usuarios.
Un ejemplo de ello fue la creación de una nueva sección en sus normas, bajo el título No participar en campañas engañosas ni actividades artificiales, relacionada con la utilización de la IA para difundir contenidos falsos y ocultar la identidad de quienes se encuentran detrás de dichos mensajes.
Hasta antes de la reciente actualización, los lineamientos en este sentido estaban dispersos en múltiples secciones, según señaló la compañía.
Asimismo, Anthropic reorientó sus restricciones sobre contenido político, específicamente en torno al uso de Claude para difundir información falsa sobre candidatos, o bien, para suplantar sus identidades.
Sumado a lo anterior, Claude actualizó el apartado de sus políticas que restringe el aprovechamiento de Claude para el desarrollo de armas.
"Nuestras prohibiciones incluyen el software y los componentes necesarios para el funcionamiento de las armas, así como acciones como construir drones y otros vehículos autónomos", puede leerse en el informe de la empresa.
BM.