En 2023, cientos de canciones con la voz de Bad Bunny comenzaron a acaparar las redes sociales, ¿la razón? aunque el sonido era idéntico al tono del puertorriqueño, esas no eran grabaciones suyas, habían sido creadas con inteligencia artificial (IA).
Dicho caso desató el debate sobre los alcances de las herramientas tecnológicas y los problemas que esto podría generar; con el avance de desarrollos como la IA, su uso ha crecido e incluso se ha convertido en una modalidad de suplantación y fraude.
Veridas, compañía del segmento de identidad humana y tecnología biométrica, señala que el uso de estas herramientas puede incluir fraudes financieros, robo de identidad y de datos.
“Este tipo de situaciones representa pérdidas económicas significativas para la empresas y los individuos, además de un impacto reputacional”, sostuvo Fernando Casas, director general de Veridas para México y Latinoamérica.
¿Cómo se usa la suplantación de voz para hacer fraudes?
Vishing es el término utilizado para referir a la suplantación de la identidad a través de la voz, un mecanismo con el que pueden incluso hacerse fraudes.
El Instituto Nacional de Ciberseguridad de España (Incibe) indica que a través de ingeniería por teléfono se puede suplantar la identidad de una empresa, organización o persona para obtener información de alguien.
“La suplantación de voz es el uso de la identidad de una persona con el objetivo de engañar a un sistema o a otras personas. Esto es un tema creciente que se está exponenciando con el crecimiento de la tecnología, como el caso de la inteligencia artificial y el machine learning”, sostiene el directivo de Veridas.
El especialista sostiene que a medida que el crecimiento de esta tecnología sea más sofisticado, las formas de utilizarlo para implementarlo de forma negativa.
El Informe sobre Fraude de identidad 2023, elaborado por la plataforma de autenticación de identidad Sumsub, señala que la sofisticación que han tenido los sistemas de fraude han hecho que la verificación forzosa crezca de manera importante.
Estos mecanismos, sostiene, requieren el análisis de fraude basado en IA sistemas de detección con tecnologías de reconocimiento de voz que pueden identificar y señalar anomalías, entre otras.
Las industrias más propensas al fraude son el Comercio electrónico, Servicos profesionales, Salud, Transporte, Videojuegos y en la medida que la tecnología esté más inmersa en la vida cotidiana, su implementación será más frecuente.
¿Y cómo operan estos defraudadores? Santander señala que en el caso del sector bancario suelen hacerse llamadas (directas o vía aleatoria) en la que un supuesto técnico llama para resolver una incidencia en temas de seguridad y le solicita varios datos que posteriormente son utilizados para hacer uso de su cuenta bancaria.
Esta práctica no es nueva; sin embargo, el uso de la IA ha permitido que los defraudadores incursionen en otros sectores y permitan incluso tener voces similares a las de conocidos u otros, que pueden afectar a empresas y usuarios, para quienes la distinción es compleja.
“Esto va a continuar avanzando en la medida que lo hagan las herramientas y requiere la colaboración con instituciones gubernamentales y privadas es fundamental para proteger a los usuarios. A simple oído del usuario común es muy difícil lograr identificar una voz identificada con estas tecnologías”.
Salvador Guerrero Chiprés, presidente del Consejo Ciudadano, señaló que en lo que va de este año los registros han incremeentado 128 por ciento.
"De misma manera que la IA fue diseñada para proteger la seguridad, es utilizada por organismos delictivos para violar la seguridad de otras personas menos preparadas para manejarla. La clonación de páginas documentos o de otras formas de intervenir en la privacidad, datos o de atraer la atención hacia páginas que sirven para hackear a las víctimas y violar sus datos".
Querétaro, Hidalgo, Puebla, Jalisco y el Estado de México agrupan hasta 75 por ciento de los reportes por robo de identidad en la organización. En la capital del país destacan los casos de Álvaro Obregón, Tlalpan, Gustavo A. Madero e Iztapalapa.
Falsa venta de bienes o servicios diversos y los montadeudas, quienes han empezado a utilizar la inteligencia artificial, son los casos más comunes registrados en México, explica el presidente del Consejo.
¿Cuánto ha crecido la suplantación de identidad?
Sumsub destaca que entre 2022 y 2023 hubo un incremento de 10 veces en el número de deep fakes (imágenes, video o audios imitando a una persona).
Aunque los mercados más vulnerables ante el robo de identidad son Bangladesh, Hong Kong, Latvia, Tanzania, Pakistán, Latinoamérica fue la única región en la que todos sus países tuvieron crecimientos en reportes por fraude.
México casi triplicó los casos de robo de identidad y pasó de un crecimiento de 0.48 a 1.27 por ciento.
Además, el país tiene la cuarta posición con mayores registros de deep fakes en toda la región: con 6 por ciento de los reportes, se ubica detrás de Brasil (49.6 por ciento), Argentina (19.7 por ciento) y Colombia (13.7 por ciento).
“El aumento del fraude de identidad en Latinoamérica se puede atribuir a varios factores, incluida la creciente digitalización de las transacciones, las desigualdades socioeconómicas, las economías informales y más. Para agravar el problema, ciertos estafadores han demostrado su capacidad para falsificar documentos de habla portuguesa y española, lo que eleva aún más el riesgo de fraude de identidad en estos países.
Por su parte, el Consejo Ciudadano indicó que en 2023 los reportes por robo de identidad crecieron 218 por ciento en relación al año anterior.
El Secretariado Ejecutivo del Sistema Nacional de Seguridad Pública (SESNSP) indica además que con 50 mil 079 carpetas de investigación iniciadas, a mayo de 2024 el delito de fraude tuvo un repunte de 10.6 por ciento, respecto a al acumulado de los primeros cinco meses del año pasado.
“Los algoritmos avanzados de inteligencia artificial trabajan para poder diferenciar una voz sintética de una real. Sin embargo, existen pequeñas sutilezas en las características de la voz, como la frecuencia, patrones del habla y las dinámicas de la pronunciación que los algoritmos pueden identificar si es falsa o real.
Es importante que si ofrecen servicios al cliente como operaciones financieras, servicios de call center y demás, implementen estos mecanismos porque si no ofrece estos niveles de seguridad, eventualmente estarán más expuestos”.
En este tenor, actualmente empresas de servicios bancarios trabajan en estrategias en procesos de identificación para el caso de clientes pensionados donde se requieren la autenticación de los usuarios y en la que han implementado tecnología que ayude a diferenciar y evitar el fraude
Veridas sostiene que a medida que otras industrias se digitalicen, sectores como el de la banca, hospitales y el retail implementarán mecanismos que ataquen este tipo de incidentes.
CMOG