Recibí un mensaje en mi teléfono. Era un video de Checo Pérez. El jalisciense y piloto de Fórmula 1 me felicita por alcanzar una meta más.
Es su voz, son sus gestos, menciona mi nombre, pero no es él. Es un video hecho con inteligencia artificial generativa.
El video es parte de una campaña publicitaria de una empresa de café. Contiene una advertencia: experiencia hecha con IA.
Este vídeo de IA en el que Checo Pérez me felicita muestra el impacto y la precisión de estas tecnologías, que pueden ser usadas de manera inofensiva o para entretenimiento, pero también abren la puerta a posibles usos peligrosos.
En Buenos Aires, el Ministerio Público Fiscal ha presentado una demanda colectiva contra el Gobierno de la Ciudad debido a la falta de regulación sobre el uso de IA para la clonación de voz y rostro.
La demanda subraya la necesidad de proteger a los ciudadanos de prácticas que vulneran la privacidad y exponen a la sociedad a riesgos como la suplantación de identidad y el fraude.
Este conflicto refleja la preocupación sobre la creciente capacidad de la IA para replicar y manipular la identidad, plantea preguntas urgentes sobre privacidad, seguridad y responsabilidad.
¿Hasta qué punto estamos dispuestos a sacrificar la integridad de nuestras identidades digitales? ¿Quién es responsable cuando estas herramientas se utilizan para engañar, estafar o difamar?
Es fundamental la creación de un marco regulatorio incluya no solo la protección de la privacidad y la identidad, sino también la educación pública sobre los riesgos y las aplicaciones de la IA.
Es necesario garantizar que el uso de estas herramientas se alinee con los principios de justicia y respeto a los derechos humanos.
La filósofa Shoshana Zuboff, en su obra La Era del Capitalismo de Vigilancia, argumenta que las tecnologías digitales, cuando no están reguladas, pueden convertirse en herramientas de control que vulneran la autonomía individual y colectiva.
En contraste, algunos tecnólogos como Kevin Kelly ven en la IA un potencial de democratización y empoderamiento, siempre y cuando los usuarios tengan el conocimiento y las herramientas para manejarla.
Sin embargo, el caso en Buenos Aires subraya que sin un marco ético sólido, la IA generativa puede llevar a consecuencias negativas que Zuboff advierte: la pérdida del control sobre nuestras propias identidades y datos.
La clonación digital mediante IA genera oportunidades fascinantes, pero también plantea riesgos graves para la privacidad y el cuidado colectivo.
La demanda en Buenos Aires es un recordatorio urgente de la necesidad de regular estas tecnologías y de educar a la sociedad sobre sus implicaciones.
Ya sea en experiencias de entretenimiento o en el contexto de vigilancia, ambos escenarios nos exigen sumarnos mediante un análisis crítico que nos permita detectar las posibles espirales de violencia que implica el uso de nuestros elementos de identidad para generar videos con IA.
@perezyortiz