Un hombre que planeó el asesinato de su exnovia a través de ChatGPT fue condenado este viernes 14 de agosto en una corte de Florida. La empresa OpenAI, propietaria de la herramienta de Inteligencia Artificial (IA) fue quien lo reportó ante el Buró Federal de Investigaciones (FBI), según documentos judiciales.
Darren Zhou, quien fue analista financiero de Goldman Sachs, llegó a un acuerdo de culpabilidad en la Corte del Condado de Palm Beach, del sur de Florida, por amenazas de muerte o lesiones a otra persona, ser una amenaza creíble por ciberacoso y por usar un "dispositivo de comunicación de dos vías para cometer un crimen".
¿Qué se sabe acerca del caso?
El hombre estaba detenido desde mayo tras una notificación del FBI a la agencia en el Condado de Palm Beach por un advertencia de emergencia de OpenAI/ChatGPT sobre el usuario, quien "hizo repetidas declaraciones a OpenAI/ChatGPT sobre el intento de atacar y/o asesinar a su exnovia, Rachel Eden Wachterman", según la orden de arresto disponible.
La herramienta de IA reportó que usó frases como "Si no es mía, no será de nadie" y otras sobre privarla de la libertad y violentarla.
"La misma notificación advirtió que el usuario admitió haber ideado un plan, que describió cómo de asesinato-suicidio, y declaró que estaba rastreando el horario de la víctima para saber dónde encontrarla si decidía intensificar sus acciones", señaló la declaración juramentada.
Incluso, el hombre le contó a ChatGPT que había comprado un rifle estilo AR-15, una pistola Glock, una escopeta calibre 12 con cartuchos de perdigones y balas, y guantes de látex.
Empresas de IA, envueltas en controversias de seguridad
El hecho ocurre mientras crece el combate legal contra plataformas de IA en Florida, que el 1 de junio se convirtió en el primer estado de Estados Unidos en demandar a OpenAI y a su fundador por cuestiones de diseño y seguridad.
La demanda acusa a su herramienta de IA ChatGPT de instigar y contribuir a la planificación de tiroteos, crear adicción en menores de edad y debilitar el pensamiento crítico de sus usuarios.
Esta querella civil es independiente de una investigación criminal que el Fiscal de Florida, James Uthmeier, lanzó en abril contra la empresa de IA por presuntamente "aconsejar" al responsable de un tiroteo masivo que dejó dos muertos en la Universidad Estatal de Florida en 2025.
MD