La IA, un riesgo en las campañas electorales

La Inteligencia Artificial (IA), como la tecnología, avanza de forma extraordinaria, y en las elecciones de cualquier país podría ser fundamental, para bien o para mal.

Así lo advirtió, en entrevista con MILENIO, Darío García de Viedma, Director Asociado del Centro para la Gobernanza del Cambio de IE University, quien recordó que, de hecho, la IA cambió los resultados electorales en Eslovaquia. De todo esto, la prestigiosa universidad ha elaborado un proyecto de investigación.

¿De qué trata este proyecto?

Proyecto IA4 Democracy Microsoft, consiste en estudiar la relación entre la IA y la democracia. Cómo por un lado puede ser un veneno, pero también un antídoto. Queremos centrarnos en cómo se pueden usar herramientas de alta tecnología para mejorar las relaciones entre las instituciones y la ciudadanía y así conseguir unas sociedades más democráticas.

¿Cuál sería el veneno y cuál el antídoto?

Un veneno, por ejemplo, sería ahora en la campaña para las elecciones mexicanas, donde están saliendo muchos fakes de videos o audios manipulados por la IA para hacer creer al electorado que los candidatos están diciendo cosas que no son ciertas. La IA artificial está multiplicando información, bulos, y por lo tanto podría tener un alto impacto en los resultados electorales.

El antídoto es que se pueden usar los algoritmos para detectar rápidamente las informaciones falsas, para crear campañas de comunicación y que lleguen a más gente, también empoderar a la ciudadanía para comunicarse con las instituciones, por medio de foros, o ayudar a las instituciones a procesar millones de datos, lo que es big data, etc.

¿Cuál es el riesgo que tiene un ciudadano de ser engañado con la IA?

Por ejemplo, el 70% de los mexicanos no sabe lo que es un fake, aunque estamos seguros que pronto lo sabrán. También hicimos una encuesta en Europa en la que se conoció que un 27% no sabe reconocer lo que es un contenido falso y uno verdadero en las redes sociales.

¿Es complicado crear contenidos con IA?

Se dice que la IA es como la nueva bomba atómica, que dependiendo del uso que se le dé puede tener consecuencias catastróficas. Cualquier persona lo puede crear contenidos sin saber programas. De hecho, yo aunque soy investigador de este sector no sé programar y muy fácilmente con herramientas de código abierto podría crear ahora mismo un audio con la voz de Xóchitl Gálvez o Claudia Sheinbaum que les diga el mensaje que yo quiera y estoy seguro que se lo creerían, hay unas herramientas con gente que tiene tanta data de su voz que es muy fácil crear estos bulos.

¿Se puede decir que todavía estamos en los inicios de este tipo de tecnología?

Es el comienzo, pero le vamos a llamar IA durante muy poco tiempo. Dentro de poco ya estaremos hablado de casos de uso específicos y para qué sirven estos algoritmos. Una cosa muy curiosa de esta tecnología es que crecerá de manera exponencial, estamos en abril, no sabemos cuál va a ser el estado de la tecnología en diciembre de este año.

¿Cómo se puede saber cuando algo está hecho con IA?

Es muy difícil mas bien creemos que las redes sociales son las que deberían etiquetar y advertir de contenidos creados con IA. Hasta que eso pase, cuando la gente vea que es muy sorprendente o que está escrita de manera extraordinaria, deben tener mucho cuidado y verificarlo al menos en varios medios para estar seguro de que eso es cierto.

¿Este año hay elecciones en carios países, es posible que se eche mano de la IA, para bien o para mal?

Así es y, siento decirlo, pero ya hay ejemplos de que la IA ha cambiado elecciones. El primer país que me viene a la mente es Eslovaquia. Unos días antes de las elecciones salió a la luz un audio falso sobre el candidato que luego acabó perdiendo, a pesar de que lo desmintieron.

Yo creo que para bien o para mal se utilizará, incluso en la campaña mexicana que ya empezó en las redes sociales desde hace mucho tiempo.

¿El uso de la IA en nuestra vida cotidiana llegará dentro de muy poco?

Yo me atrevo a decir que ya lo estamos usando, desde cómo accedemos a la información, la gente que usa el transporte público, los mapas del teléfono están hechos con una IA muy sofisticada que te optimiza el trayecto. Desde eso, hasta temas más sociales y democráticos se van a impregnar de toda esta tecnología.

En este tema, ¿corren más riesgo los países menos avanzados?

Son más vulnerables, sí, pero tienen una cosa a favor: la lengua castellana, en el caso de América Latina. Lo buenos de tener un idioma que habla tanta gente es que eso hace que sea más fuerte y que las herramientas de IA en español funciones mejor, aún así hay mucho trabajo por hacer. Creo que todos los que hablamos el mismo idioma debemos de pedir mejorar los modelos de IA, funciones mejores en español y que no se haga una traducción en ingles.