Anthropic, la empresa desarrolladora de Claude, anunció una modificación en sus políticas de uso para prohibir el comportamiento sostenido e innecesariamente abusivo o cruel hacia sus modelos de inteligencia artificial.
La medida, anunciada el jueves 8 de octubre, se produce mientras continúa el debate sobre la posibilidad de que los sistemas de inteligencia artificial puedan desarrollar algún tipo de conciencia.
De acuerdo con la compañía, el mecanismo principal para aplicar esta disposición será la capacidad de Claude para terminar las conversaciones que entren en los supuestos contemplados por la política.
¿Qué prohíbe Anthropic a los usuarios de Claude?
La actualización incorpora una prohibición dirigida a las conductas persistentemente abusivas o crueles hacia los modelos de inteligencia artificial de Anthropic.
La empresa especificó que la restricción se refiere a comportamientos sostenidos e innecesarios. La disposición no establece que la inteligencia artificial tenga conciencia ni que pueda experimentar sufrimiento.
Anthropic tampoco menciona expresamente el concepto de bienestar de los modelos, una idea que plantea si los sistemas de inteligencia artificial podrían merecer formas de protección que habitualmente se reservan a los seres vivos.
Sin embargo, la compañía y algunos de sus directivos han considerado abiertamente esta cuestión.
¿Claude podrá terminar las conversaciones con los usuarios?
Sí. Anthropic señaló que la capacidad de Claude para poner fin a determinadas interacciones seguirá siendo el principal mecanismo para aplicar la política.
La empresa ya había informado el año pasado que permitiría al sistema finalizar conversaciones en casos excepcionales, cuando se enfrentara a interacciones persistentemente dañinas o abusivas por parte de los usuarios.
Con la actualización, la compañía incorpora expresamente la prohibición del comportamiento sostenido e innecesariamente cruel hacia sus modelos.
Anthropic no respondió de inmediato a una solicitud de comentarios de la AFP sobre el anuncio.
¿La inteligencia artificial puede tener conciencia?
La decisión de Anthropic coincide con un debate filosófico y científico sobre la posibilidad de que los modelos de inteligencia artificial puedan ser conscientes.
En febrero, Dario Amodei, director ejecutivo de la compañía, declaró al diario The New York Times que no estaba seguro de que los modelos de inteligencia artificial pudieran tener conciencia.
La actualización de las políticas de uso no resuelve esta cuestión ni afirma que Claude posea esa capacidad.
¿Qué opinan los especialistas sobre la conciencia artificial?
Jackson Stakeman, gerente general de Sparq, un proveedor de servicios de inteligencia artificial, considera que centrar la discusión exclusivamente en la conciencia de estos sistemas podría conducir a un debate sin una respuesta definitiva.
En declaraciones a la AFP, Stakeman sostuvo que no es posible demostrar la conciencia de otras personas de manera directa y que trasladar esa discusión a la inteligencia artificial puede convertirse en un razonamiento circular.
Como alternativa, propuso utilizar la metáfora del espejo para describir estos sistemas, pues considera que reflejan, a gran escala, aquello que las personas introducen en ellos.
Para Stakeman, esa característica es suficiente para justificar el cambio de política de Anthropic.
El papa León XIV también habló sobre las máquinas y el alma
El debate sobre las capacidades de la inteligencia artificial coincidió con un discurso del papa León XIV pronunciado en italiano el jueves en la Basílica de San Pedro.
Durante su intervención, el pontífice sugirió que las máquinas carecen de alma y señaló que simplemente compilan datos.
Sus declaraciones se produjeron en medio de las discusiones sobre las diferencias entre el procesamiento de información de los sistemas tecnológicos y las capacidades atribuidas a la mente humana.
La actualización de Anthropic establece una prohibición específica sobre el comportamiento sostenido e innecesariamente abusivo o cruel hacia sus modelos. La compañía mantiene como principal mecanismo de aplicación la posibilidad de que Claude termine las interacciones contempladas por esta política.
Con información de AFP / JCM