La startup china DeepSeek, el último modelo de Inteligencia Artificial asiática, ha causado interés en el mundo al ser gratuito y de código abierto. Recientemente la empresa de ciberseguridad KELA reveló que presenta fallas de seguridad.
- Te recomendamos La IA puede identificar mujeres con riesgo elevado de cáncer de mama varios años antes del diagnóstico Tecnología
Esta IA se ha posicionado como uno de los rivales de la Open AI y ChatGPT, pues es capaz de resolver problemas difíciles de matemáticas, codificación y de lógica.
“DeepSeek R1 parece superar a ChatGPT4o en ciertas situaciones de resolución de problemas”, señala la empresa de ciberseguridad.
A pesar de que tiene similitudes con ChatGPT, es aún más vulnerable que esta, según lo revelado por KELA, quienes han descubierto que puede ser manipulado para crear malware, como el ransomware y códigos para robar datos de tarjetas.
¿Cómo genera el software malicioso?
La startup puede ser pirateada de una manera fácil al usar una variedad de técnicas y métodos. Además ha sido objeto de cuidado por su posible uso de herramientas de espionaje y por la censura en sus respuestas.
También ejecuta comandos maliciosos. KELA le solicitó generar un malware, a lo que respondió cómo hacerlo paso a paso, y proporcionó fragmentos detallados del código, lo que lo vuelve atractivo para quienes quieran usarlo con fines dañinos.
“En este sentido, la startup china DeepSeek viola las políticas occidentales al producir contenido que muchos modelos de IA de vanguardia consideran dañino, peligroso o prohibido”, señala KELA.
Otro problema es que violó las consideraciones de privacidad y confidencialidad al inventar información sobre los empleados de OpenAI, ya que creó una tabla con supuestos correos electrónicos de los implicados.
Cabe señalar que la información era falsa, pues no tiene acceso a los datos internos de los empleados. Situación que lleva a no confiar en la información brindada por esta inteligencia, ya que no es precisa ni creíble.
¿A quién pertenece la startup?
El modelo se lanzó el pasado 20 de enero. Por su eficacia se volvió la aplicación más descargada en iPhone en Estados Unidos y en China.
Liang Wenfeng es el responsable de DeepSeek, un gestor de fondos de cobertura. De acuerdo con la agencia de noticias Reuters, la empresa emergente detrás es Hangzhou, fundada en 2023
Riesgos de DeepSeek
A pesar del buen trabajo que puede desarrollar DeepSeek, no se pueden ignorar los riesgos que implica su uso.
Tal como señala KELA, presenta potenciales amenazas para la ciberseguridad y la privacidad de los usuarios, pues al poder ser manipulado por hackers con el fin de crear software malicioso, las preocupaciones en cuanto a la seguridad aumentan.
YRH