Google está realizando cambios en su motor de búsqueda en un esfuerzo por abordar la pornografía deepfake, mientras la industria tecnológica lidia con los impactos sociales de largo alcance de la inteligencia artificial generativa (IAG).
Con los avances en IAG, las imágenes falsas son más realistas y fáciles de crear, por lo que el uso de personas en pornografía, sin su conocimiento o consentimiento, se ha vuelto aún más generalizado.
Las medidas introducidas por Google esta semana incluyen cambios que facilitarían que las víctimas de pornografía deepfake eliminen de Internet sus vídeos e imágenes.
Actualmente, las personas deben realizar solicitudes de eliminación para cada dirección o URL de un sitio web. Los cambios omitirían los resultados explícitos sobre términos de búsqueda relacionados que incluyan el nombre de una persona. El gigante de las búsquedas también rebajará la clasificación de los sitios que hayan recibido un gran volumen de avisos de eliminación.
“Además, cuando alguien elimina con éxito una imagen según nuestras políticas, nuestros sistemas buscarán y eliminarán cualquier duplicado que encuentre de esa imagen”, dijo Google en su blog el miércoles.
Google, Meta y X han trabajado duro para combatir los deepfakes en sus plataformas: imágenes, videos y audios que se pueden generar mediante IA y que se asemejan a individuos privados y públicos. La semana pasada, la Junta de Supervisión independiente de Meta le pidió a la empresa reforzar sus normas sobre la eliminación de deepfakes.
“Estamos en medio de un cambio tecnológico”, dijo Emma Higham, gerente de productos de Google, involucrada en la lucha de la empresa contra los deepfakes. “Al monitorear nuestros propios sistemas, hemos visto que hay un aumento en las solicitudes de eliminación de este tipo de contenido”.
La cuestión está bajo el escrutinio de los reguladores: la Ley de Seguridad en Línea del Reino Unido, aprobada en octubre y considerada una de las más estrictas, hace ilegal la difusión de deepfakes pornográficos no consentidos. En Estados Unidos, la legislación de varios estados apunta a quienes crean y comparten contenido deepfake explícito.
Clare McGlynn, profesora de derecho en la Universidad de Durham que estudia las regulaciones sobre la pornografía, dijo que el motor de búsqueda ha sido lento en evitar que ese contenido prolifere en internet: “Sigue siendo responsable de facilitar el aumento exponencial del abuso sexual mediante deepfakes, al otorgarle a las aplicaciones, sitios web y tutoriales de este tipo una clasificación alta durante muchos años”.
La compañía dijo que ha reducido 70 por ciento la cantidad de contenido deepfake explícito que ha aparecido en sus resultados de búsqueda desde enero, a través de cambios en sus políticas iniciales y actualizaciones limitadas a su motor de búsqueda.
Sus últimas políticas no llegan a desindexar por completo los sitios deepfake más populares de los resultados de búsqueda, una medida que grupos de defensa como #MyImageMyChoice están impulsando.
Google dijo que eliminar sitios de la lista por completo podría bloquear el acceso a información importante, como por ejemplo las instrucciones de cómo se puede eliminar contenido de un sitio web anfitrión.
CHC