Facebook anunció que reforzó sus políticas para identificar y eliminar aquellos videos que hayan sido manipulados o editados para cambiar el contenido con el fin de engañar, que se han popularizado con el nombre de deepfakes.
Uno de los mayores problemas digitales de hoy en día son los contenidos falsos manipulados para engañar o deepfakes -videos editados utilizando la Inteligencia Artificial (IA) para manipular contenidos con el fin de distorsionar la realidad-. Es importante diferenciar los videos manipulados con malas intenciones de los que se editan para mejorar la calidad de imagen y de audio.
Con la creciente tendencia de los deepfakes en redes sociales, Facebook anunció que reforzó sus políticas para hacer frente a este tipo de videos en su plataforma y cualquier otro tipo de contenido manipulado.
Para ello, van a investigar todo contenido generado a partir de herramientas de IA y cuentas falsas además de trabajar conjuntamente con instituciones, gobiernos y empresas para descubrir a las personas detrás de estos contenidos.
A partir de ahora Facebook eliminará cualquier contenido que haya sido editado o sintetizado, pero no por motivos de mejora de calidad de audio e imagen, de manera que el video generado pueda llegar a hacer a una persona creer que lo que se dice en él es cierto.
También se eliminarán los videos creados a partir de IA o aprendizaje automático que se fusionen, reemplacen o superpongan a otro video para hacerlo parecer auténtico. Estas nuevas políticas no se extienden a videos satíricos ni de parodia.
La compañía ya estaba trabajando en la identificación de deepfakes desde septiembre de 2019 con su programa Deep Fake Detection Challenge que ha unido a personas de todo el mundo en la búsqueda de contenidos manipulados. Además, se han unido a Reuters para crear un curso de entrenamiento que ayude a los periodistas a identificar noticias falsas.
RL