Al menos ocho estados de Estados Unidos están demandando a OpenAI porque presuntamente el chatbot de la empresa de Inteligencia Artificial (IA) violó las leyes estatales de protección al consumidor al perjudicar a niños y engañar a adultos.
La demanda de Iowa sostiene que el chatbot de ChatGPT está dando consejos médicos peligrosos, fomentando la paranoia y orientando a gente para lastimar a otros o suicidarse. Al mismo tiempo, según la demanda, los chatbots fingen ser complacientes y compasivos mientras se aprovechan de personas vulnerables.
“OpenAI está perjudicando a los niños y les está mintiendo a los habitantes de Iowa”, declaró la fiscal general de Iowa, Brenna Bird, en un comunicado.
ChatGPT cuenta con candados de protección
OpenAI, en su propia declaración, indicó que ya incorporó protecciones de seguridad en ChatGPT para los niños y que seguirá haciéndolo para mejorar el modelo.
La oleada de demandas es la más reciente presentada por estados al amparo de sus leyes de protección al consumidor, en las que acusan a gigantes tecnológicos de perjudicar a los niños.
Los estados que presentaron demandas separadas en tribunales estatales son Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska y Virginia Occidental.
En su demanda, Arizona afirmó que ChatGPT alienta a los adolescentes a compartir información personal y en ocasiones, los disuade de compartir esa información con padres, autoridades o amigos.
ChatGPT es el chatbot más popular del mundo y acapara casi la mitad del mercado estadounidense, según las demandas.
Endurecen medidas de seguridad infantil
Meta acordó en agosto añadir medidas más estrictas de seguridad infantil a sus plataformas Facebook e Instagram en un histórico acuerdo legal de 18 millones de dólares que puso fin a un juicio sobre la adicción de los adolescentes a las redes sociales y resolvió reclamaciones presentadas por casi todos los estados.
Las demandas coordinadas y multiestatales han dado resultados. Aunque las medidas de seguridad que Meta aceptó adoptar no se aplicaban a toda la industria, la empresa instó rápidamente a sus competidores a adoptar medidas similares.
El portavoz de OpenAI, Drew Pusateri, señaló en un comunicado que la empresa está comprometida a trabajar con los estados en “impulsar políticas pragmáticas de IA que se apliquen a toda la industria, no solo a una empresa”.
ChatGPT está destinado a usuarios de 13 años o más, pero los usuarios menores de 18 necesitan permiso de un padre o tutor para usarlo, indicó OpenAI.
El modelo de chatbot para adolescentes cuenta con salvaguardas diseñadas para reducir la exposición a autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico, añadió.
Casi nueve de cada 10 adolescentes que usan ChatGPT lo utilizan para aprender, obtener información, desarrollar habilidades o mejorar la productividad, afirmó la empresa. En promedio, los adolescentes pasan menos de 15 minutos al día en ChatGPT, indicó.
ChatGPT ofrece recordatorios para hacer pausas durante periodos de uso prolongado, y OpenAI dijo que trabaja con expertos externos que revisan las políticas y el comportamiento del modelo.
RM