La clasificación que una inteligencia artificial (IA) hace de la imagen de un rostro humano no siempre es correcta ni precisa, e incluso a veces se encuentra con terminología misógina o racista, como pone de relieve el proyecto ImageNet Roulette, centrado en el entrenamiento de IA en la categoría de personas.
ImageNet Roulette es una app de internet que emplea la base de datos ImageNet, "una de las más importantes e históricamente significativas", puesta en marcha inicialmente en 2009, que aloja millones de fotos de entrenamiento para IA. Esta base de datos emplea la estructura semántica de Wordnet, una base de datos de palabras de clasificación creada por la Universidad de Princeton, como explican los responsables de este proyecto.
ImageNet, aunque se enfoca al reconocimiento de objetos, cuenta también con una categoría de "persona", que contiene más de dos mil 500 etiquetas que clasifican a la gente según raza, nacionalidad, profesión, comportamiento, situación económica o moralidad.
No obstante, y como señalan los responsables de ImageNet Roulette, la clasificación de una persona no está exenta de los problemas que presentan tanto ImageNet como Wordnet: "contiene una cantidad de categorías problemáticas, ofensivas o extrañas", o emplean terminología misógina o racista. Y no siempre acierta con lo que se muestra en la imagen. Así, una persona, según su selfie, puede ser clasificada como "piloto de combate", "sindicalista", "enérgica" o "miembro de una tribu".
Para mostrar la forma en que una inteligencia artificial clasifica un rostro humano siguiendo las categorías de ImageNet, han creado ImageNet Roulette, donde el usuario puede subir una selfie en la que se le vea bien el rostro para descubrir de qué forma ha sido clasificado.
Para ello, una vez subida, la IA analiza la foto en busca de rostros. Si así ocurre, entonces los envía a Caffe (una herramienta de aprendizaje automático de código abierto) que realiza la clasificación. Posteriormente, la imagen regresa con etiquetas sobre las clasificaciones realizadas. Si no reconoce ningún rostro, entonces la imagen mostrará una etiqueta en la esquina superior izquierda.
ImageNet Roulette es una app web ha sido desarrollada por Leif Ryge para el estudio del artista Trevor Paglen, y forma parte de la muestra 'Training Humans', de Trevor Paglen y Kate Crawford, que actualmente se exhib en la Fundación Prada, de Milán (Italia).
RL