Trevin Brownie no ha olvidado su primer día como moderador de contenidos para Facebook, en los locales de una empresa subcontratada situados en la capital de Kenia, Nairobi.
"Mi primer video era el de un hombre que se suicidaba. [...] Tenía un niño de 2 o 3 años jugando al lado. Después de que el hombre se ahorcara, al cabo de unos dos minutos, entendió que algo no iba bien", cuenta el sudafricano de 30 años, antes de describir la reacción del niño.
"Esto me puso enfermo", dice, apuntando que las imágenes le provocaron "náuseas, vómitos". "Pero continué haciendo mi trabajo", agrega.
Entre 2020 y 2023, cada día vio centenares de videos violentos, con llamados al odio, para bloquearlos y evitar que llegaran a los ojos de los usuarios de Facebook.
- Te recomendamos Nuevas políticas de TikTok luchan contra desórdenes alimenticios, misoginia y retos peligrosos Apps
Trabajaba en Nairobi para Sama, una empresa californiana a la que Meta -matriz de Facebook, Instagram y Whatsapp- contrató entre 2019 y 2023 para que se encargara de la moderación de los contenidos de Facebook en África subsahariana.
Decapitaciones, violaciones y pornografía
Por este centro de operaciones han pasado hasta 260 moderadores de varios países africanos contratados, sobre todo, por conocer numerosas lenguas locales.
Trevin Brownie afirma que vio "cientos de decapitaciones", "órganos arrancados de cuerpos", "violaciones y pornografía infantil al más alto nivel", "niños soldados preparándose para la guerra".
"Los humanos hacen cosas a otros humanos que nunca habría imaginado", dice. "La gente no tiene idea de los videos morbosos [...] de los que se libran", agrega.
- Te recomendamos Incremento de smartphones impulsan aumento en depresión y ansiedad en adolescentes Financial Times
Batalla judicial
Trevin Brownie es demandante en uno de los tres casos abiertos contra Meta y Sama en Kenia.
Ha recurrido su despido junto a otros 183 ex empleados de Sama, que anunció que cesaba su actividad en la moderación de contenidos. Los demandantes reclaman una compensación por unos sueldos "insuficientes" teniendo en cuenta "el riesgo al que se exponían", y por los "daños causados a su salud mental".
La ofensiva judicial empezó cuando otro extrabajador, Daniel Motaung, presentó una demanda en mayo de 2022 ante un tribunal de Nairobi denunciando condiciones laborales "indignas", métodos de contratación engañosos, remuneraciones insuficientes y falta de apoyo psicológico.
Testimonios recabados a finales de abril por la AFP entre los otros demandantes confirman los hechos denunciados por Motaung.
- Te recomendamos Twitter avisará a usuarios por el uso de contenido ofensivo Tecnología
Dos de ellos, Amin y Tigist, los nombres fueron modificados, contratados en 2019 en el primer grupo de moderadores de Sama, afirmaron que ellos respondieron a ofertas de trabajo en centros de atención telefónica.
No fue hasta firmar sus contratos, con cláusulas de confidencialidad, que descubrieron que en realidad iban a trabajar como moderadores de contenidos.
Amin y Tigist no dijeron nada ni pensaron en irse. "No tenía ni idea de lo que es un moderador de contenidos, nunca había oído hablar de ello", cuenta Tigist, una etíope que consiguió el trabajo por saber hablar la lengua amhárica.
"La mayoría de nosotros no sabía la diferencia entre un centro de atención telefónica y un centro de moderación de contenidos", confirma Amin, que trabajaba en el "mercado" somalí.
"Durante la formación, le restaron importancia al contenido. Lo que nos enseñaron no era nada comparado con lo que acabaríamos viendo", añade. "Los problemas empezaron después", dice.
- Te recomendamos Metaverso impulsará crecimiento económico, pero requiere infraestructura: Meta e IFT Negocios
Cientos de videos al día
En sus pantallas, ocho horas al día, iban pasando contenidos, a cada cual más impactante.
"Uno no elige lo que ve, llega por azar: videos de suicidios, violencia, explotación sexual de niños, desnudez, incitación a la violencia...", cuenta Amin.
Tenían que dedicar una media de 55 a 65 segundos a cada video y analizar entre 378 y 458 publicaciones al día, bajo riesgo de ser llamados al orden o despedidos si iban demasiado despacio, explican.
Al ser contactada por AFP, Sama afirmó que no estaba "en condiciones" de comentar los casos en curso.
Meta aseguró, en un correo enviado a AFP, que los moderadores "en principio no tienen que evaluar un número definido de publicaciones, no tienen cuotas y no están obligados a tomar decisiones apresuradas".
- Te recomendamos Detectan error en algoritmo de Facebook que verifica la información noticiosa Tecnología
"Autorizamos y alentamos a las empresas con las que trabajamos a que le den a sus empleados el tiempo que necesiten para tomar una decisión", añadió.
Ninguno de los tres moderadores de contenidos entrevistados por AFP había imaginado las consecuencias que ese trabajo acabaría teniendo en sus vidas.
No consultaron a ningún psicólogo o psiquiatra, por falta de dinero, pero todos cuentan que tienen síntomas del síndrome de estrés postraumático y dificultades para relacionarse con la familia y la sociedad.
Trevin Brownie dice que tiene "miedo de los niños por culpa de los niños soldado", y también de los lugares atestados "a causa de todos los videos de atentados" que ha visto.
"A mí me volvían loco las fiestas", cuenta. "No he ido a un club desde hace tres años. No puedo, tengo miedo", sostiene.
En el caso de Amin, los principales efectos se ven en su cuerpo, que pasó de 96 kilos a "69 o 70 kg".
Todos aseguran que se han vuelto insensibles a la muerte o al terror. "Mi corazón se ha vuelto de piedra", resume Tigist.
- Te recomendamos Meta respalda plataforma para evitar difusión de contenido sexual por venganza Apps
"Hacía falta dinero"
Meta indicó a AFP que tiene "contratos claros" con todos sus socios que incluyen "la disponibilidad de asesoramiento individual, un apoyo adicional para quienes están expuestos a un contenido más difícil".
"A todas las empresas con las que trabajamos les exigimos que proporcionen una asistencia las 24 horas del día, los 7 días de la semana, con profesionales formados, un servicio de guardia y el acceso a la atención sanitaria privada desde el primer día de contrato", recalcó la compañía.
Según los denunciantes, el apoyo propuesto por Sama, a través de "consejeros de bienestar", no estaba a la altura y se basaba en entrevistas vagas, sin un seguimiento efectivo. Además, cuestionaron la confidencialidad de las sesiones.
"No era para nada útil. No digo que no estuvieran cualificadosl, pero creo que no lo estaban lo suficientemente como para gestionar a personas que moderan contenidos", considera Amin.
- Te recomendamos Facebook tiene 3 mil millones de usuarios. Muchos son de edad avanzada Internacional
Pese a sus traumas, siguieron trabajando porque les "hacía falta ese dinero".
Con un sueldo de 40 mil chelines (270 euros, 287 dólares) y 20 mil chelines suplementarios para los no kenianos, ganaban casi el triple del salario mínimo nacional (15.200 chelines).
"Desde 2019, no tuve oportunidad de encontrar otro empleo, pese a haberme presentado a muchos. No tenía otra opción. Por eso me quedé tanto tiempo", explica Amin.
"Sacrificio"
Para aguantar, los moderadores deben encontrar "mecanismos de defensa", explica Trevin Brownie.
Algunos recurren a drogas, como el cannabis, dicen los entrevistados.
El sudafricano, a quien solían encantarle las comedias, se volcó en las películas de miedo. "Era una forma de huir de mi realidad", afirma, explicando que también desarrolló una "adicción" a las imágenes violentas.
"Pero uno de nuestros principales mecanismos de defensa es que estamos convencidos de la importancia de este trabajo", añade.
"Yo tenía la impresión de que me estaba haciendo daño, pero por una buena razón, [...] que el sacrificio valía la pena por el bien de la sociedad".
- Te recomendamos ¿Por qué se decanta Meta por invertir en la IA en vez de por el Metaverso? Tecnología
"Sin nosotros, las redes sociales no pueden existir", agrega. "Nadie abriría Facebook si estuviera lleno de contenidos impactantes, de venta de drogas, de chantajes, de acoso...".
"Merecemos que nos traten mejor"
"Esto causa daños y nosotros nos sacrificamos por nuestra comunidad, por el mundo. Merecemos que nos traten mejor", apunta Tigist.
Ninguno volvería a dedicarse de nuevo a ello.
"Mi opinión es que ningún humano debería hacer eso. No es un oficio para humanos", explica Trevin Brownie. "Francamente, me gustaría que la inteligencia artificial pudiera hacer ese trabajo".
Pero, pese a los enormes avances realizados, Trevin Brownie duda que eso sea posible en un futuro próximo.
"La tecnología juega y seguirá jugando un papel central en nuestras operaciones de verificación de contenidos", aseguró Meta a AFP.
Hasta ahora, ninguno le había hablado a nadie de su trabajo, ni siquiera a su familia, a causa de las cláusulas de confidencialidad y también porque "nadie puede entender lo que vivimos".
"Si la gente se entera, por ejemplo, de que he visto pornografía, me juzgarán", explica Tigist.
A su esposo, le contaba poco sobre lo que hacía. A sus hijos, se lo ocultó todo: "No quiero que sepan lo que he hecho. Ni siquiera quiero que se imaginen lo que he llegado a ver", dice.
OMV