Tras el lanzamiento de la inteligencia artificial se han detectado ciertos mal usos que afectan directamente a la sociedad. Una de las recientes problemáticas es la creación de fotos íntimas o sexuales con la herramienta de IA sin consentimiento, los 'deepfakes'; AQUÍ te presentamos los pasos legales para hacer una denuncia junto a plataformas no gubernamentales que ofrecen su apoyo en estos casos.
Realizar una denuncia de imágenes creadas o manipuladas para generar contenido sexual con inteligencia artificial es posible por medio de sistemas de protección en las plataformas digitales, así como en las instancias legales.
¿Cómo denunciar imágenes sexuales creadas con IA?
Lo primero que se debe hacer es:
Recopilar las pruebas: capturas de pantalla, grabaciones de video, el URL, nombre de usuario, fecha de publicación, etcétera.
Reportar en la plataforma: Utilizar las herramientas de denuncia, sin olvidar la selección de opciones como "desnudo", "suplantación de identidad" o "violencia digital".
Denuncia legal: Si la imagen viola la intimidad como los falsos desnudos, esto es un delito bajo la Ley Olimpia en México, que protege contra la violencia digital.
Policía Cibernética: Acudir a las autoridades locales especializadas en ciberdelitos, es decir la Policía Cibernética de la Comisión Nacional de Seguridad; se puede comunicar a la línea 088 la cual se encuentra en servicio las 24 horas.
Ministerio Público: Es esta instancia se puede levantar un acta o iniciar una investigación.
¿Cómo detener la difusión de las imágenes íntimas?
Posterior a los pasos anteriores es importante frenar la difusión del contenido manipulado. Estas son algunas herramientas que se pueden utilizar para prevenir la difusión y eliminar imágenes:
Stop Non-Consensual Image Abuse: esta plataforma ayuda a las víctimas de pornografía de venganza o revenge porn. Si una imagen íntima está en manos de alguien que podría utilizarla con fines incorrectos. Dicha herramienta crea una huella digital de la imagen para impedir que otras personas puedan compartirla en línea con una eficiencia de eliminar hasta el 90% del contenido.
La huella generada funciona como un código que permite que el algoritmo detecte todas las copias duplicadas en internet sin necesidad de que el contenido original sea visto, asimismo contacta a plataformas aliadas para que detecten y eliminen el contenido que coincida con esa huella.
Entre los colaboradores se encuentran: Facebook, Instagram, Microsoft, Pornhub, Onlyfans, X, Patreon, Reddit, Redgifs y Bluesky.
Pasos para crear la huella digital de la foto
- Entrar a StopNCII.org y seleccionar “Crea tu caso”.
- Completar un cuestionario sobre el caso (edad, contenido de la imagen, etc.).
- Subir las imágenes: subir tanto las fotos reales como las modificadas por IA o Photoshop. Se permiten hasta 20 archivos por caso.
- Es requisito ser mayor de edad y que las imágenes sean de uno mismo.
Take It Down: Diseñada para ayudar a eliminar de internet imágenes, videos y contenido sexual de menores de 18 años. Parecido al anterior este sistema funciona mediante una huella única del contenido para identificar copias.
Algo que diferencia a esta plataforma de la otra es que la imagen o el video nunca salen de tu dispositivo, el proceso de creación del código ocurre localmente, es decir se garantiza que nadie vea el contenido original y que el archivo no se suba a ningún servidor externo.
La institución recomienda no descargar contenido ajeno, solo realizar solicitudes para imágenes o videos que ya estén en tu dispositivo, recordando la importancia de no enviar, compartir ni descargar material de terceros para remitirlo a la plataforma, pues esas cuentas podrían ser bloqueadas.
¿Qué son los deepfakes?
Los deepfakes es cualquier contenido digital como: imágenes, audios o videos, creados o manipulados mediante la inteligencia artificial simulando que una persona dijo o hizo algo que nunca pasó. De acuerdo a UNICEF y la ONU esta tecnología puede tener fines creativos, pero representa riesgos muy importantes.
Entre ellos destacan la desinformación, fraude, suplantación de identidad y la violencia digital, especialmente cuando se generan contenidos íntimos sin consentimiento.