TikTok se convertirá en la primera plataforma de redes sociales en etiquetar de forma automática algunos contenidos generados por inteligencia artificial (IA), a medida que los rápidos avances en la herramienta aumentan la preocupación por la propagación de la desinformación en línea y las deepfakes.
Los grupos de internet, como Meta, propietario de Facebook, y TikTok, ya exigen a los usuarios que revelen si las imágenes, el audio o los videos realistas se realizan mediante IA.
La aplicación, propiedad de la china ByteDance, fue un paso más allá al anunciar sus propias funciones para garantizar que los videos que pueda identificar como generados por inteligencia artificial sean etiquetados como tales. Esto incluirá contenidos realizados con la herramienta Firefly, de Adobe; los generadores de imágenes de IA de TikTok y Dall-E, de OpenAI.
“Sabemos por muchos expertos con los que trabajamos que el reto es que está aumentando el contenido nocivo generado por inteligencia artificial”, dijo Adam Presser, jefe de Operaciones, Confianza y Seguridad de TikTok.
“Esto es importante para nuestra comunidad porque la autenticidad es uno de los elementos que ha hecho de TikTok una comunidad tan vibrante y alegre… quieren ser capaces de comprender qué fue creado por un ser humano y qué se mejoró o generó con IA”.
Las plataformas de redes sociales, incluidas TikTok, Meta, X y YouTube, exploran formas de integrar la IA generativa en sus plataformas, a través de chatbots y nuevas herramientas que ayudan a influencers y anunciantes a crear medios; sin embargo, las plataformas son blanco de críticas por permitir que los usuarios se vean inundados con contenido spam de baja calidad generado por software.
En un año de elecciones importantes en todo el mundo, estas compañías también se enfrentan a la presión de introducir barreras de seguridad contra las deepfakes, frenar las operaciones de influencia encubierta y garantizar la moderación adecuada del contenido al tiempo que se mantienen apartidistas.
A principios de esta semana, TikTok y su matriz, ByteDance, presentaron una demanda contra el gobierno de EU, impugnando una ley diseñada para obligar a vender la aplicación o que sea prohibida. Los legisladores expresaron su preocupación de que la plataforma pudiera impulsar la desinformación y la propaganda.
TikTok se unirá a una coalición de grupos de tecnología y medios, liderados por Adobe, que incorporan las denominadas credenciales de contenido en productos generados por IA.
Esta tecnología incorpora una huella digital en el contenido multimedia de IA, junto con otra información de identificación, cómo, cuándo, dónde y quién generó el material. TikTok utilizará estos indicadores para señalar de forma automática cuando el contenido se cree con productos de inteligencia artificial.
OpenAI también se unirá a la coalición e integraría la tecnología de fingerprinting (identificación gracias a características especiales) en todas las imágenes generadas por su modelo Dall-E 3. Con el tiempo, también las integraría en su modelo de generación de video Sora, cuando se ponga en circulación de forma amplia.
Grandes firmas de tecnología, como Google, Microsoft y Sony, estudian la incorporación de la tecnología en sus herramientas.
Meta comenzará a sellar el contenido generado por inteligencia artificial con una etiqueta de “Hecho por IA” detectando marcadores invisibles insertados por grupos como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock. El propietario de Facebook también dijo que está desarrollando clasificadores de detección de deepfake.
Los expertos argumentan que los malos actores o los grupos sofisticados de desinformación pueden usar herramientas de generación de IA de código abierto para crear deepfakes, lo que los hará más difíciles de rastrear y, por tanto, no ser identificados.
Las compañías de tecnología argumentan que sus esfuerzos representaron el primer paso para abordar el problema.
“Si deseas ser transparente y tener una conversación auténtica y transparente con tu público, esta herramienta te permitirá hacerlo en un mundo donde todo lo digital se puede manipular”, expuso Dana Rao, abogado general y director de Confianza de Adobe.