Derechos humanos con IA

A la persona que conduce un automóvil de velocidades le resulta inimaginable poner atención de manera aislada en la palanca de velocidades, en cada pedal, los espejos, el nivel de combustible, las luces o la vialidad por la que se circula. Se atiende todo de manera simultánea para garantizar el eficaz funcionamiento del sistema automotriz.

Esta semana Michelle Bachelet, Alta Comisionada de la Organización de las Naciones Unidas (ONU) para los Derechos Humanos, pidió a los Estados una moratoria a la venta de algunos sistemas sustentados en Inteligencia Artificial (IA), debido a que ponen en riesgo la protección de derechos humanos al discriminar el acceso a servicios públicos, a un empleo, o a proteger la intimidad. Dijo que los datos que alimentan la IA pueden ser deficientes, discriminatorios y obsoletos. Un mensaje que muestra la dicotomía, por un lado, de la intención de eliminar el riesgo de que se violen los derechos humanos con mecanismos sustentados en IA. Por el otro, un contexto que, desde la inteligencia natural de muchas personas, no cesa de mostrar riesgos a los derechos humanos por, entre otras causas, corrupción, falta de estructura tecnológica y adecuadas capacitaciones, así como la ausencia o desconocimiento de lineamientos, manuales o protocolos para casos de violación de derechos humanos. Antes de la llegada de la IA, los derechos humanos ya contaban, al menos en papel, con mecanismos de vigilancia y control para atender violaciones; aunque es de dominio público que históricamente esa brecha entre papel y aplicación ha quedado a deber mucho. Así que la IA que busca realizar ciertas conductas humanas, no está privada de sujetarse también a mecanismos de vigilancia y control a partir de la asistencia humana (IA asistida) que de manera permanente verifique y valide la inexistencia de sesgos que violen derechos humanos; además de un adecuado esquema de transparencia que la legitime ante la ciudadanía.

La llegada de la IA está cambiando el medio, pero no la finalidad de proteger los derechos humanos. Así que plantear que primero se asegure el control de riesgo, prohibiendo la venta de algunos mecanismos para salvaguardar los derechos humanos, parece recordar lo que sucede con el automóvil: se debe garantizar la funcionalidad del sistema. Es decir, atender de manera simultánea IA y derechos humanos para lograr niveles adecuados de funcionalidad del sistema. De lo contrario, será cuestión de tiempo para que el imperativo tecnológico que ha marcado el ritmo global y que difícilmente dará tregua para detenerse a ver aspectos aislados, muestre la siguiente etapa del desarrollo tecnológico global, robusteciendo así el evidente retraso que varios países, como México, se niegan atender con estrategias digitales adecuadas.