Uno de los más grandes problemas en nuestro país es la violencia de género. En los últimos días las mujeres han utilizado las redes sociales para reportar varios intentos de secuestro en el Metro de la Ciudad de México.
Sin embargo, las redes sociales parecen también contribuir con esta problemática social. Usuarias de Facebook han notado un patrón preocupante al momento de hacer búsquedas: al ingresar palabras como "niñas" o "mujeres", la red social sugiere resultados con connotaciones sexuales, mientras que al buscar "niños" no aparece ninguna relacionada con sexo o pornografía. Sólo al buscar "hombres" aparece "hombres sin playera".
El año pasado, cuando comenzó a circular a nivel mundial una situación similar como te contamos en esta nota, la red social explicó al sitio The Guardian que las predicciones "no reflejan necesariamente el contenido actual de la plataforma", sino que son representativas de lo que los usuarios están buscando en Facebook, señalando que borran los resultados de las predicciones apenas los detecten.
Es decir, si muchos usuarios buscan "niñas desnudas" dentro de la plataforma, Facebook comenzará a sugerir esos resultados aunque no exista el contenido dentro de la red social.
Por otro lado, en esta nota hablamos sobre el software de inteligencia artificial de Facebook que se encarga de eliminar todo tipo de contenido pornográfico o violento, inclusive antes de que se publique.
Facebook ha invertido más recursos en esta tecnología para eliminar publicaciones y contenido que van contra las políticas de su plataforma, sin embargo, pese a los esfuerzos, en situaciones como esta podemos ver que no siempre eliminarán todo el contenido a tiempo.
RL