Las deepfake han puesto en jaque algunas figuras del espectáculo y de la política, por medio del uso de imágenes y voces modificadas o alteradas con herramientas de Inteligencia Artificial (IA).
El caso más destacado, quizá, fue el de la cantante norteamericana Taylor Swift, quien sufrió la pornificación de su imagen en la red social de X, material que se difundió por horas, retomado por miles de usuarios, hasta que la interfaz decidió bajar el contenido.
Pero también las deepfake nos han permitido ver a Tom Cruise bailando en bata de baño o a Tom Hanks promoviendo servicios dentales.
En México, a principios de año, Claudia Sheinbaum denunció el uso de su voz e imagen para promover una plataforma financiera fraudulenta, de la misma manera el presidente fue presentado promoviendo presuntas inversiones en Pemex.
En este escenario global, la interfaz de videos y streaming, YouTube, da pasos para inhibir esta práctica ilegal de la usurpación de identidad, por medio de dos herramientas.
En primer término, el identificador de canto sintético que permitirá a los socios detectar y administrar automáticamente contenido generado por IA que simula sus voces de canto.
Además, la plataforma dio a conocer, a principios de mes, que desarrolla una nueva tecnología que permitirá a creadores, actores, músicos, así como atletas, detectar y administrar contenido generado por IA que muestra sus rostros en YouTube.
El esfuerzo vale la pena, sobre todo si se toma en cuenta que en otros frentes, como en OpenAI, se desarrolla el GPT-4o, tecnología que permite con una grabación de 30 segundos, clonar la voz de cualquier persona, para los fines más diversos.
Ante un escenario que se advierte como una batalla perdida, ante la velocidad con la que se presentan los avances de la Inteligencia Artificial, este guiño de YouTube lo posiciona como discreto bálsamo.
Como se puede advertir, las deepfake no solo plantean altos riesgos de difamación y acoso, sino que diluyen la línea entre lo auténtico y lo falso, afectando la capacidad de las personas para confiar en lo que ven y escuchan.