El uso de la Inteligencia Artificial (IA) ha vuelto a ponerse sobre la mesa luego de que el Jefe de Gobierno de la Ciudad de México (CdMx), Martí Batres, fue involucrado en supuestas estrategias para favorecer a un aspirante a la Jefatura de Gobierno capitalina.
Una grabación falsa de su voz navegó a toda velocidad por las redes sociales. Cada vez más internautas creían en el archivo que no sólo involucró al político, también a periodistas y líderes de opinión: “Es sí, el primer caso de uso de IA contra periodistas probablemente en el mundo“, destacó al respecto Alberto Escorcia en X.
El periodista experto en plataformas digitales explicó para MILENIO que, pese a que el caso Batres no es el primero en su tipo, sí reflejó un avance en el uso de las tecnologías para perfeccionar este tipo de manipulación digital.
Ello, refiriendo a elementos como las respiraciones o las muletillas que se intentó emular — y las cuales convencían a las y los internautas de que aquel audio era verdadero.
“Juega con la idea de que es auténtico y que es rebatible. Incluso aunque se demuestre técnicamente y por peritos que este audio es falso, se va a quedar con esa idea”, dijo Escorcia para este medio.
- Te recomendamos Inteligencia Artificial pronostica resultados de la encuesta de Morena con alta precisión Política
Una herramienta que ‘aprende’
En septiembre, en plena contienda por la candidatura presidencial de Movimiento Regeneración Nacional (Morena), Marcelo Ebrard fue blanco de críticas por una declaración falsa y creada por IA que lo vinculaba con el bando opositor.
Al mes siguiente, la alcaldesa de Iztapalapa con licencia, Clara Brugada, negó “la guerra sucia” en su contra derivada, igualmente, de archivos creados con IA. Y días después la voz de Martí Batres fue ‘tomada’ para la creación de audios comprometedores y con fines electorales.
“Está producido con inteligencia artificial. No es real”, pronunció el Jefe de Gobierno en la madrugada del 31 de octubre a través de X. Sin embargo, ello no frenó las sospechas de internautas que creían en la veracidad del archivo, por lo que el debate continúa vigente pese a la negativa del político.
“Aquí veo un caso de aprendizaje. En el caso de Marcelo Ebrard habían errores que ahora no cometieron. Van a seguir aprendiendo de ello”, puntualizó Escorcia.
¿Falso o verdadero?, desmienten audio de Batres
En un video de X, Alberto Escorcia mostró los resultados del análisis que hizo a la voz simuladora a la de Martí Batres; ello estudiándola con diferentes programas de edición y comparando su estructura con las de otras creaciones de IA.
Las conclusiones del experto arrojaron que el archivo es falso, pues fue una clonación de la Inteligencia Artificial impulsada por una campaña en la red social Facebook. Algunas de las anomalías que llevaron a Alberto a dicho dictamen fueron:
- La perfección de la onda de audio.
- Las frases no terminan de forma natural; transiciones poco naturales.
- El silencio perfecto. Es decir, la ausencia de ruido de fondo constantes: “Es un clásico de la generación automática”.
- Audios duplicados para la generación de muletillas.
Por su parte, un ejercicio realizado por MILENIO sometió un fragmento del audio al análisis de la herramienta AI Voice Detector, la cual analiza el porcentaje de “voz natural” y “voz artificial” que hay en un archivo.
El resultado obtenido por este medio arrojó que 90.21% de la voz escuchada en el estracto seleccionado fue creada por Inteligencia Artificial, mientras que el 9.79% restante es natural.
ASG