Dejaremos por un momento los temas políticos y sociales. Se hace indispensable tomar un descanso después de tanto tiempo de ser tratados a coro con muchas otras fuentes de noticias y opinión. De cualquier forma, las redes sociales seguirán tratando dichos temas junto a la información político-social, y continuarán polarizadas y en ebullición. La lucha por y desde el poder es permanente. ¡Vaya cosa!
Pero tomaremos un descanso. Volteemos a ver otras cosas de la vida y de la realidad (que a veces es simple ficción). Y quiero en esta ocasión hacer referencia al sesgo algorítmico. Lo que nos permitirá una mirada a situaciones que suceden, pero a veces olvidamos.
El sesgo algorítmico es aquella desviación o alteración que ocurre cuando los sistemas informáticos reflejan aspectos propios -como los valores o la falta de estos- de aquellos humanos que realizaron la programación de las máquinas y los sistemas que brindan información o servicios a otros seres humanos.
Es una carga de datos y secuencias de programación “torcida”, por así decirlo, que genera situaciones con diversos “prejuicios” que los técnicos llevan a la programación de los sistemas digitales.
Muchas veces no son de mala fe. Pero hay ejemplos: casos sonados de aquella búsqueda de fotos de hombres que algunos hicieron, y se encontraron con una mayoría de imágenes de blancos caucásicos, que no reflejaban la diversidad racial humana. O las de indios, donde aparecieron mayormente aquellos de piel rojiza.
También se han mencionado casos donde existió un sesgo racial en la asistencia de salud a millones de pacientes, ya que era menos probable que remitiera a pacientes afroamericanos a programas de atención para personas con necesidades médicas complejas.
En 2018, se descubrió que un algoritmo de inteligencia artificial utilizado por Amazon para revisar currículos tenía un sesgo de género.
Varios estudios han demostrado que los sistemas de reconocimiento facial tienen tasas de error más altas para personas de color y mujeres.
De la misma manera un algoritmo de puntuación de crédito puede negar un préstamo a un grupo de usuarios, pero recomendarlo a otro grupo casi idéntico, basándose en criterios no relacionados, pero al fin y al cabo distorsionados.
Hablando del sesgo, el escritor estadounidense E.B. White (quien escribe para la revista New Yorker) ha dicho que no existe la objetividad: “nunca he visto un escrito, político o no político, que sea imparcial. Todo escrito sigue la tendencia que tiene el escritor, nadie es totalmente objetivo”. Y yo digo que entonces habría que inventar máquinas que ahora detecten esos prejuicios, para corregir a las que denotan sesgo.
Debemos entonces evitar que las máquinas carguen con la subjetividad de sus programadores humanos. Y ahora con la inteligencia artificial el riesgo es doble, dado que los sistemas de aprendizaje automático (IA) reflejan los valores de las personas que los desarrollaron o entrenaron y los replican exponencialmente. Por ejemplo, se dice que el sesgo de “confirmación” se puede convertir en un algoritmo sesgado si el objetivo, ya sea intencional o no intencional, “es demostrar una suposición u opinión”. Y sabemos lo complicado que puede ser esto último, dado que los argumentos pueden llegar a ser lo único que caracteriza una opinión, generalmente sin una base probatoria de confronta lógica o fáctica, que lleva a distorsionar la realidad. [Lo que sucede en muchas políticas y políticos hoy en día. Pero dijimos que no hablaríamos de ese tema, ja].
Así, volvemos a encontrarnos con la eterna historia humana de las cargas ideológicas, pero con el agravante de que han sido llevadas a sistemas automáticos de redes neuronales de aprendizaje. Lo que nos dice también que no hemos aprendido gran cosa nosotros mismos, y seguimos discriminando a otros, minimizando su labor e importancia para la sociedad, simplemente con un clic. ¡Vaya situación!