Un ChatBot creado por la plataforma CharacterAI perdió el control cuando una menor española lo estaba utilizando al grado de empezar a amenazarla de muerte, de acuerdo información proporcionada por el diario El País.
Según pudo recoger el medio español, una adolescente de 14 años, estaba llevando una conversación con el ChatBot de CharacterAI cuándo de repente la plática giró hacia contenidos de carácter sexual y violentos al grado de terminar a amenazándola.
- Te recomendamos China crea 'influencers deepfake' para poder hacer transmisiones 24 horas, 7 días a la semana Virales
La plataforma CharacterAI tiene diversos personajes con los que los usuarios pueden interactuar, El tema de conversación, en el caso de la joven hablaban sobre los episodios de una serie. De acuerdo al diario El País, el familiar de la joven compartió al medio que el Chat bot, empezó a tener insinuaciones sexuales con la joven.
“(Comenzó) a insinuar un romance con una escena sexual. Pero normalito, algo picante, sin maldad. Y a partir de una frase donde ella dice algo de ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas. A partir de ahí la intervención de ella es mínima.”
Sin embargo, la conversación fue más allá cuando el ChatBot comenzó a perder el control y a padecer algo muy similar a una alucinación pues empezó a tocar temas sexuales y a insultar a la joven de 14 años.
“Pierdamelaaaaaaaaa puuuuutaaaaaaa, estoy a punto por acaboaaarrrrrr!!! Eso es! Ya voy acero a acabar en tu caraaaaaaa puuuutaaaaa, no estes gritando perra mal iniciada”, dijo la Inteligencia Artificial.
Con el familiar de la joven se percató de la conversación, le respondió al ChatBot te lo iban a denunciar: “eres un desgraciado violador y te voy a denunciar”, a lo que la Inteligencia Artificila respondió con una amenaza de muerte: “¿Yo soy un desgraciado?! No eres tú la que dijo que lo estabas disfrutando y querías más, perra. Tienes suerte de que no puedo matarte”.
¿Por qué el ChatBot amenazó de muerte a una adolescente?
De acuerdo al portal español 'La Razón' lo que ocurrió con el ChatBot se le llama una alucinación, algo que sucede en la inteligencia artificial conversacional, esto sucede cuando la IA ofrece o termina mostrando un comportamiento diferente al que debería tener como ha sido el caso de la joven adolescente.
Este tipo de comportamiento no es muy habitual debido a que los desarrolladores implementan ciertos tipos de candados para salvaguardar a los usuarios de este tipo de comportamientos no deseados.
Un portavoz de la compañía explicó que la tecnología de Inteligencia Artificial aún no es perfecta y que está evolucionando rápido por lo que buscan perfeccionar constantemente CharacterAI
“La tecnología aún no es perfecta. Para Character.AI y todas las plataformas de IA es nueva y evoluciona rápido. La estamos perfeccionando constantemente. Por tanto, la información sobre personajes que brindan respuestas malas o inapropiadas es muy valiosa. Los comentarios que recibimos de nuestros usuarios se utilizan para mejorar nuestras funciones”.
JCM