Mark Zuckerberg está frente a una cámara de televisión dando una entrevista, es él, sin duda, pero de repente su discurso cambia y se vuelve incendiario, dice: “Imagina esto por un segundo: ‘un hombre con control total de los datos robados de miles de millones de personas, de todos sus secretos, sus vidas, sus futuros. Se lo debo todo a Spectre, me mostró que quien controla los datos controla el futuro’”.
¿Qué demonios le pasa a Mark Zuckerberg? Me preguntan en Twitter, en la oficina, en la casa. A Mark no le pasa nada, es un video falso, pero hecho con tecnología que permite modificar un video para que quien aparezca diga otra cosa, otro discurso, una fake news.
Los llamados deepfakes han dado mucho de qué hablar desde el año pasado, cuando empezaron a viralizarse y presentarse como un gran avance de la computación y los algoritmos que logran empatar los movimientos faciales de una persona con algo que alguien más dijo y, ahora, con lo que alguien más ha escrito, pues esta semana se dio a conocer que investigadores de la Universidad de Stanford, el Instituto Max Planck de Informática, la Universidad de Princeton y Adobe Research, lograron hacer videos falsos de personas dando cualquier discurso que otro escribe en una computadora mientras ellos lo hablan con la entonación y volumen adecuado.
En las últimas semanas la polémica sobre este tipo de materiales se ha centrado en Facebook, que decidió no retirar un video de la presidenta de la Cámara de Representantes del Congreso de EU, Nancy Pelosi, donde aparentemente borracha habla en un evento público. A pesar de que se demostró que la grabación no era real, las políticas de Facebook no penalizan que alguien mienta o, en este caso, que lo que aparece en el video sea falso, por lo que la empresa decidió no retirarlo provocando toda una discusión sobre la libertad de expresión y la manipulación de la realidad.
YouTube retiró la mayor cantidad de clones de dicho video y Facebook solo bajó su visibilidad, pero la pregunta que se están haciendo los congresistas en Estados Unidos, y deberíamos empezar a hacernos en todo el mundo, es qué vamos a hacer con las redes sociales y su autorregulación.
Las redes, casi todas, dicen que son solo una plataforma y que no pueden coartar la libertad de expresión de sus usuarios, pero no es lo mismo una nota falsa que podrías desmentir y que, a pesar de eso, crea cierta malinterpretación de la realidad, a un video que no parece falso.
Imaginen a Donald Trump viral diciendo que abre la frontera para los migrantes o a Andrés Manuel López Obrador anunciando que renuncia, todo en un video donde claramente lo dice, no hay duda que es él, se viraliza y nadie puede bajarlo de internet porque su único pecado es decir una mentira.
Los deepfakes serán el nuevo enemigo para todo mundo y al parecer hasta ahora no hay nada que los pare.
fernando.santillanes@milenio.com
Twitter: @santillanes