Tan antigua como la política misma, por milenios la manipulación de masas ha recurrido a la mentira, la propaganda y la construcción de apariencias para orientar las creencias y las conductas de la población. Ya Platón advertía sobre el poder de las imágenes y los discursos para confundir la apariencia con la verdad. En el siglo XX, los regímenes totalitarios llevaron estas prácticas a extremos extraordinarios mediante el uso sistemático de la prensa, la radio, el cine y la fotografía.
Sin embargo, hoy la inteligencia artificial está introduciendo una transformación en estas formas de manipulación. La diferencia no consiste únicamente en que ahora resulte más fácil mentir, sino en que se está modificando nuestra relación con la evidencia, con la verdad y con nuestra propia capacidad para distinguir lo real de lo ficticio.
Tradicionalmente, la propaganda manipulaba la interpretación de los acontecimientos: se seleccionaban fotografías, se alteraban imágenes, se ocultaban hechos, se difundían noticias falsas y se construían relatos convenientes para determinados intereses políticos. También se fabricaban escenas y hasta se escenificaban acontecimientos. Pero estas operaciones requerían recursos técnicos, organización, dinero y, frecuentemente, la participación de instituciones poderosas.
Hoy, una sola persona puede utilizar herramientas de inteligencia artificial para producir fotografías, videos y grabaciones de voz que representen acontecimientos que jamás sucedieron. La falsificación ha alcanzado un realismo extraordinario y su producción se ha vuelto mucho más accesible.
Un ejemplo paradigmático de lo anterior lo tenemos en una fotografía que ha circulado en redes sociales, la cual muestra una librería intacta en medio de comercios saqueados durante las protestas en Francia. La imagen, falsa, transmite una interpretación moral al presentar a saqueadores que desean mercancías costosas, mientras que los libros carecen de valor para ellos. El espectador recibe así una opinión con toda su evidencia: un movimiento que comenzó con demandas educativas, termina por despreciar la educación –representada por la librería intacta– y caer en la barbarie. La fuerza persuasiva de la imagen reside precisamente en que parece innecesario argumentar: basta con mirarla para llegar a una conclusión que alguien ha preparado de antemano.
Hoy las campañas propagandísticas que antaño requerían periodistas, fotógrafos, imprentas, emisoras y organizaciones encargadas de distribuir sus mensajes, han quedado atrás. Actualmente es posible generar enormes cantidades de información falsa con recursos mínimos. Cuando estos contenidos circulan por las redes sociales, los algoritmos favorecen su difusión, especialmente si provocan indignación, miedo o entusiasmo. La combinación de inteligencia artificial y plataformas digitales permite que una falsedad alcance a millones de personas en muy poco tiempo.
Con ello –ya lo he expresado en otras ocasiones– la inteligencia artificial está debilitando el valor de las pruebas visuales y auditivas. Durante mucho tiempo, una fotografía o una grabación podían servir para refutar una mentira. Hoy, ante una evidencia incómoda, alguien puede limitarse a decir que se trata de una creación de inteligencia artificial y esa posibilidad puede bastar para sembrar la duda.
Los investigadores han llamado a este fenómeno liar's dividend, expresión que puede traducirse como “la ventaja del mentiroso”. La existencia de falsificaciones convincentes ofrece una nueva oportunidad para desacreditar documentos auténticos. Podemos aceptar como verdadero un acontecimiento que nunca ocurrió, pero también podemos rechazar como falso algo que efectivamente sucedió.
En este sentido, la inteligencia artificial introduce una amenaza que va más allá de la difusión de mentiras particulares. El riesgo consiste en que la desconfianza termine generalizándose hasta el punto de que toda información resulte sospechosa: una fotografía puede ser falsa, un video puede haber sido fabricado, una voz puede ser imitada y un testimonio puede proceder de una persona inexistente. Ante semejante panorama, ya no es posible saber qué sucedió realmente. Y cuando cualquier evidencia puede descartarse arbitrariamente, la mentira y la verdad corren el riesgo de recibir el mismo tratamiento.
Tal vez el problema de nuestra época sea, precisamente, que la distinción entre verdad y mentira continúa siendo indispensable, mientras que nuestra capacidad cotidiana para reconocerlas se ha vuelto mucho más vulnerable. La tarea de verificar los hechos exige ahora conocimientos, instrumentos y procedimientos que van más allá de la simple observación.
La cuestión tiene, por tanto, una dimensión epistemológica y otra política: se refiere tanto a nuestra posibilidad de conocer la realidad como a nuestra capacidad de construir una vida colectiva sobre hechos compartidos.
Cuando una sociedad pierde la posibilidad de establecer lo que realmente ocurrió, también pierde las condiciones que hacen posible la deliberación pública.
La IA es una herramienta maravillosa, pero su uso político es terriblemente peligroso.