Por: Paola Cicero Arenas
Ilustración: Sergio Bordón, cortesía de Nexos
El uso de algoritmos en el sistema de justicia penal de diversos países es más común de lo que imaginamos. En Estados Unidos, la American Civil Liberties Union, importante organización para la protección de los derechos, ha puesto luz en el empleo de algoritmos por los jueces para tomar decisiones “objetivas” sobre libertad condicional o bien para determinar la sentencia óptima por la comisión de un delito. El problema radica en que se ha demostrado que estos programas hacen predicciones o recomendaciones a partir de datos que de origen están sesgados, pues se basan en información judicial y policial en la que históricamente personas afroamericanas o de otras minorías raciales son señaladas como responsables de la mayor parte de los delitos (Southerland, 2018). Además, las personas afectadas no tienen la posibilidad de saber, y por tanto de cuestionar, cómo es que el algoritmo llegó a determinada sugerencia para el juez, pues hasta el momento no hay transparencia sobre elementos técnicos de estos sistemas tales como: con qué información fueron entrenados, cuáles son las variables utilizadas y la ponderación de estas en su análisis.