La inteligencia artificial (IA) llegó para quedarse y avanza a pasos agigantados: poco a poco ha ganado terreno en diferentes ámbitos cotidianos. Ejemplo de ello es la tecnología que utilizan los teléfonos inteligentes y Chat GPT.
Sin embargo, todo avance tendría que ser cuestionado, o al menos discutido antes de que continúe acelerando, explican Martha Selene Casas Ramírez, Leticia Ramírez Ramírez, Marisol Flores e Ivete Sánchez Bravo, mentes brillantes que han aprendido el lenguaje matemático para aplicarlo a la creación a través de las computadoras.
- Te recomendamos Alejandro von Düben recibe el Premio de Literatura Ciudad y Naturaleza FIL
Desde la FIL Guadalajara, las cinco pusieron sobre la mesa lo que muchas personas parecen ignorar (en algunas ocasiones a propósito) sobre la IA y sus repercusiones. Plantearon tres aspectos que resultan fundamentales ante la continua evolución de la tecnología y que podrían tener graves consecuencias si no se toman en cuenta.
¿De dónde viene la IA?
El primer punto es que la IA no es neutral. Si bien está diseñada con matemáticas, se alimenta de bases de datos para funcionar, mismas que pueden ir cargadas de sesgos. De ahí la importancia de cuestionar de dónde se están obteniendo esas bases de datos, quién tiene permiso para usarlas y cuál y para quién es el beneficio.
“La manera en la que hacemos los algoritmos o la manera en la que aprenden es utilizando información histórica, entonces estos datos en general pueden tener muchos sesgos, pueden tener sesgos desde la captura hasta lo que estamos preguntando”, explican.
Para ejemplificar esto hay muchas anécdotas, como aquella ocasión en la que Joy Buolamwini, investigadora del MIT Media Lab, mostró que casi el 35 por ciento de las mujeres negras fueron identificadas erróneamente por reconocimiento facial, esto debido a que la base de datos recolectada para su diseño en su mayoría estaba conformada por información de hombres blancos.
En este sentido, las expertas recalcan la urgencia de que se integren voces variadas a la conversación. Basta señalar que actualmente apenas el 22 por ciento de personas que están trabajando en la IA son mujeres, lo cual también se ve reflejado en los beneficios y aplicaciones en las que se está enfocando la tecnología.
“Un ejemplo que me parece emblemático es de la primera versión del reloj inteligente que sacó Apple. En ese entonces este reloj medía la frecuencia cardíaca, los pasos que diste: se supone que está diseñado para medir ciclos del cuerpo y el día del estreno se dieron cuenta que no tenía nada para la menstruación”, comenta la doctora en ciencias de la computación, Marisol Flores.
Esto resultó “muy extraño”, puesto que alrededor del 50 por ciento de la población mundial podría estar interesada en esa característica y no la tenía: o nadie se detuvo en plantear en el proceso de creación o simplemente se descarto.
“Aquí vale la pena resaltar: no se trata de un consejo maligno de hombres tratando de hacerle la vida difícil a las mujeres, sino simplemente hay una ceguera de privilegio, son miradas ajenas a muchas problemáticas que pueden tener otras partes de la población, de ahí la importancia de integrar más voces que no sean las ‘dominantes”, reitera.
Aviso: la nube no es una nube
El hecho de que no veamos algo no quiere decir que no ocurra. Así lo señalan las expertas, quienes reiteran algo de suma importancia: la IA contamina, y muchísimo, no es algo abstracto que ocurre en otro plano, sino que tiene repercusiones materiales en el ecosistema.
“Nos hacen ver esta tecnología como algo etéreo, que nada más está en la máquina y se deja de lado la conexión que tiene con elementos de la Tierra, con la infraestructura específica”, reiteran.
Y es que, según lo señalado por las programadoras, la inteligencia artificial requiere “un montón” de recursos naturales para trabajar.
“La nube no es una nube bonita y orgánica: es un almacén enorme que utiliza computadoras prendidas de día y de noche y que requieren grandes cantidades de electricidad e incluso agua para funcionar”.
No todo es lo que parece
El tercer y último aspecto que enfatizaron es que la IA no es automática, en realidad requiere del trabajo de muchas manos: hay humanos detrás de las decisiones que se toman, detrás del proceso.
“Un montón de gente de diferentes países está desde su casa etiquetando datos con los que después se va alimentando la IA. A la par, como nadie lo ve, también se va alimentando este mito de que la máquina aprende sola y decide cosas por sí misma”.
De ahí la importancia de que desde la labor científica se comunique y desmonte la serie de mitos alrededor de esta nueva herramienta, que termina reproduciendo problemáticas que ya existen en las sociedades, aseguran las expertas.
LHM