El mercado, una herramienta para limpiar internet de odio

FINANCIAL TIMES

Emprendedor. Desde la empresa Factmata, Dhruv Ghulati trata de cambiar la forma como funciona la industria global de publicidad en línea con valor de 333 mil millones de dólares para filtrar contenido.

Elecciones en todo el mundo han sido influidas por una manipulación digital. K. Pempel/Reuters
John Thornhill
Londres /

En julio de 1855, el ilustre científico Michael Faraday realizó un poco placentero viaje en bote por el río Támesis. Quedó tan consternado por el estado del “alcantarillado que se fermentaba” que escribió una carta al Times en la que instaba a hacer una limpieza.

  • Te recomendamos
“Si descuidamos el tema, no podemos esperar hacerlo con impunidad; tampoco deberíamos sorprendernos si, dentro de muchos años, una temporada de calor nos da una muestra de la locura de nuestro descuido”, escribió.

Tres años más tarde, una ola de calor golpeó Londres y la advertencia de Faraday se convirtió en una olorosa realidad. El Gran Hedor (The Great Stink), como se llegó a conocer, obligó al Parlamento a aprobar un proyecto de ley para restaurar el río. La tarea se encargó a Joseph Bazalgette, se construyeron muros de contención a lo largo del Támesis para encerrar un extenso sistema de alcantarillado.

Esta notable hazaña de la ingeniería cívica debería inspirarnos a enfrentar el Gran Hedor de nuestros tiempos que emana de la alcantarilla abierta que es internet. Durante años, los usuarios han estado arrojando orinales de suciedad informativa al espacio cibernético sin respetar la higiene pública. No es de extrañar que internet se haya convertido en un peligro político y social para la salud.

Las enfermedades de las redes sociales infectan a las sociedades en todas partes. La persecución de la población rohingya en Birmania se alimentó por campañas de odio en línea. Las elecciones en todo el mundo, entre ellas las de las democracias supuestamente maduras de Estados Unidos y Reino Unido, fueron influenciadas por una evidente manipulación digital. El troleo amenaza a muchas mujeres políticas y el ciberacoso a estudiantes adolescentes ha destruido vidas.

Entre los grandes retos está lidiar con esta suciedad en línea mientras se preserva la libertad de expresión y la notable promesa de nuestro mundo conectado. ¿Quién va a construir un sistema de alcantarillado para la era digital?

Las grandes compañías de tecnología de forma tardía reconocieron el problema y finalmente parecen actuar con seriedad al tratar de lidiar con este flagelo. Han escrito algoritmos inteligentes y han contratado a miles de moderadores para marcar y eliminar contenido ofensivo.

Twitter y Facebook cerraron cientos de cuentas de trolls chinos que trataban de provocar a los manifestantes en Hong Kong. Facebook está creando una junta de supervisión de 40 personas para proporcionar una nueva forma de gobernanza supranacional, iniciativa que ya suscitó escepticismo.

En agosto, el proveedor de redes Cloudfare terminó su contrato con 8chan, un foro que mostraba propaganda de supremacistas blancos, y lo denunció como una “cloaca de odio”. Científicos examinan formas de remodelar las redes sociales y quitarle los colmillos al “ecosistema de odio en línea”.

Los políticos lentamente descubren cómo actualizar las leyes de libertad de expresión para la era de internet. Y periodistas inteligentes, como Maria Ressa, directora ejecutiva del sitio web de Rappler en Filipinas, encabezan los esfuerzos para mejorar la credibilidad y la influencia del periodismo profesional.

La mayoría de estos esfuerzos colectivos valen la pena y son necesarios, pero nunca pueden ser suficientes. La escala del desafío es colosal, dado que alrededor de 4 mil 400 millones de personas ahora están conectadas a internet. Cada minuto del día, estos usuarios publican 350 mil tuits y suben 300 horas de video a YouTube.

Nunca vamos a poder detener a aquellas personas que desean publicar contenido falso o de odio. Pero sin duda podemos ir más allá para rediseñar el mercado para recompensar a quienes publican información socialmente valiosa y reducir a las personas que promueven información errónea viral.

Dhruv Ghulati, un banquero de inversiones que se convirtió en emprendedor, es uno de los que trata de hacer eso al cambiar la forma cómo funciona el mercado global de publicidad en línea con valor de 333 mil millones de dólares.

La compañía que dirige, Factmata, puede asignar rápida y algorítmicamente un puntaje de confianza a millones de piezas de contenido en línea, dependiendo de la toxicidad, la objetividad, el sesgo político, y así sucesivamente. Su objetivo final es crear una nueva métrica para la industria de la publicidad que incluya la calidad del contenido, no solo la viralidad.

En la actualidad, los anunciantes compran principalmente anuncios en línea sobre la base de los CPM, o el costo por cada mil clics o visitas. Pero ese tipo de publicidad programática casi no toma en cuenta, o de plano no toma en cuenta, la naturaleza del contenido. El objetivo de Factmata es introducir un componente de calidad en esta métrica, creando un Q-CPM, un tipo de etiqueta nutricional para la información.

“Fundamentalmente, hay un problema de fijación de precios”, dice Ghulati. “El valor que la sociedad deriva de una pieza de información es diferente del valor que el mercado atribuye a esa misma información. El valor de mercado se determina únicamente por su propensión a la publicación de anuncios”.

Los obstáculos para crear una métrica de ese tipo son obvios y desalentadores. La determinación algorítmica de la “calidad” también desencadenaría una controversia interminable. Pero está claro que los anunciantes deben asumir mucha más responsabilidad sobre dónde aparecen sus anuncios y a quién recompensan en línea.

Por sí solo, esto crearía un poderoso motor para el cambio. Las redes sociales y las compañías de alimentos, por ejemplo, realmente deberían preocuparse de que los anuncios de galletas se publiquen en sitios de supremacía blanca, incluso si los racistas también comen galletas. Si los anunciantes demuestran resistencia, los consumidores deben obligarlos a actuar.

“Si descuidamos este tema, no podemos esperar hacerlo con impunidad", como advirtió Faraday hace mucho tiempo.

Cuentas falsas

Las redes sociales Twitter y Facebook descubrieron y han suspendido lo que describen como una red de cuentas falsas que se cree habían sido operadas por el gobierno chino.

Discordia

Ambas firmas revelaron el lunes pasado sus investigaciones sobre la operación coordinada de información, que aparentemente tenía la intención de sembrar la discordia política en torno a las protestas que tienen lugar en Hong Kong.

Socavar

Twitter indicó que fueron descubiertas 936 cuentas creadas en China que sembraban la discordia en Hong Kong en un intento de socavar “la legitimidad y las posiciones políticas del movimiento”.

Manipulación

“Todas las cuentas han sido suspendidas por una serie de violaciones de nuestras políticas de manipulación de plataformas”, indicó Twitter en el blog.

Prevención

Twitter dijo que estas cuentas eran solo las partes más activas de esta campaña y que una “red más grande y spam” de aproximadamente 200 mil que habían sido suspendidas proactivamente antes de que estuvieran sustancialmente activas.

MRA

LAS MÁS VISTAS