Las autoridades italianas anunciaron el viernes el bloqueo del Chat GPT por no respetar la legislación sobre datos personales y por carecer de un sistema de verificación de la edad de los usuarios menores.
Esta decisión tendrá como consecuencia "la limitación provisional del tratamiento de los datos de usuarios italianos por OpenAI", la sociedad estadounidense creadora de Chat GPT, indicó en un comunicado la autoridad nacional de protección de datos personales.
Lanzado en noviembre, Chat GPT fue rápidamente adoptado por usuarios impresionados por su capacidad para responder a preguntas difíciles, escribir sonetos e incluso pasar exámenes.
Sin embargo, la autoridad italiana subraya que Chat GPT "sufrió el 20 de marzo una pérdida de datos (data breach) sobre las conversaciones de los usuarios y las informaciones relativas al pago de los abonados al servicio de pago".
Además, mientras que el robot está destinado a personas mayores de 13 años, "la autoridad hace hincapié en que la ausencia de cualquier filtro para verificar la edad de los usuarios expone a los menores a respuestas absolutamente no conformes con su nivel de desarrollo".
La autoridad pide a OpenAI que "comunique en un plazo de 20 días las medidas adoptadas" para remediar esta situación, "so pena de una sanción de hasta 20 millones de euros o hasta 4 por ciento del volumen de negocios mundial anual".
Este anuncio se produce después de que la agencia de policía europea Europol advirtiera el lunes que delincuentes estaban dispuestos a aprovechar la inteligencia artificial, como el robot conversacional ChatGPT, para cometer fraudes y otros delitos cibernéticos.
ChatGPT es financiado por el gigante informático Microsoft, que lo ha añadido a sus servicios y se presenta como un potencial competidor del motor de búsqueda de Google.
La agencia de protección de datos de Italia prohibió también a principios de febrero a la empresa de inteligencia artificial Replika utilizar los datos personales de usuarios italianos porque ofrece chatear con avatares personalizados que hablan y escuchan. Algunos usuarios se habían quejado de recibir mensajes e imágenes demasiado atrevidos, cercanos al acoso sexual.
El Reglamento Europeo de Protección de Datos (RGPD), que ha dispuesto miles de millones de dólares en multas para los gigantes tecnológicos, podría convertirse en el mayor enemigo en el viejo continente de las nuevas IA generadoras de contenido.
La Unión Europea está preparando un proyecto de ley para regular la inteligencia artificial, el cual podría estar listo a finales de 2023 o principios de 2024 y ser aplicado en pocos años.
La inteligencia artificial genera temores profundos y no solo por el uso de datos personales. Esta semana, mediante una carta abierta, Elon Musk y miles de expertos pidieron hacer una "pausa" en los avances de la Inteligencia Artificial durante seis meses.
Según un reporte de CNBC, durante la Cumbre del Gobierno Mundial en Dubai, Emiratos Árabes Unidos, en febrero pasado, Elon Musk afirmó que "uno de los mayores riesgos para el futuro de la civilización es la IA".
Además, añadió que "la IA es positiva o negativa y tiene una gran promesa, una gran capacidad", pero también señaló que "con eso viene un gran peligro".
El CEO de OpenAI, Sam Altman, también ha advertido este mes sobre los peligros de esta tecnología para la sociedad. En una entrevista con ABC News que fue replicada por The Guardian, Altman declaró: "Estamos un poco asustados por esto".
MO