La salud mental se ha convertido en uno de los temas de mayor atención durante los últimos años, especialmente entre niños y adolescentes.
Con el crecimiento de la inteligencia artificial, cada vez más personas recurren a los chatbots para resolver dudas, pedir consejos o hablar sobre situaciones personales. Sin embargo, especialistas han advertido que estas herramientas no sustituyen el acompañamiento de un profesional de la salud mental.
Ante este panorama, Meta anunció una nueva función de seguridad dirigida a adolescentes que utilizan Meta AI. La medida busca brindar una capa adicional de protección cuando el sistema detecte conversaciones relacionadas con el suicidio o las autolesiones, siempre dentro de las herramientas de supervisión parental de la compañía.
Meta alertará a los padres si detecta conversaciones de riesgo
La empresa informó que implementará un sistema de alertas para notificar a los padres o tutores cuando un adolescente, de entre 13 y 17 años, mantenga conversaciones con Meta AI que sugieran un posible riesgo de suicidio o autolesiones. Antes de enviar una notificación, las interacciones detectadas serán revisadas para reducir la posibilidad de falsas alertas.
De acuerdo con Meta, los padres no tendrán acceso al contenido completo de la conversación. En su lugar, recibirán una notificación acompañada de recursos elaborados por especialistas en salud mental para orientarlos sobre cómo abordar la situación con sus hijos.
La compañía también explicó que Meta AI continuará mostrando información sobre líneas de ayuda y recomendará al adolescente hablar con un adulto de confianza cuando identifique señales relacionadas con una posible crisis emocional. En casos que sugieran un riesgo inminente, la empresa mantiene protocolos para contactar a los servicios de emergencia cuando sea necesario.
La nueva función estará disponible inicialmente para las familias que ya utilizan las herramientas de supervisión parental en Instagram y otros servicios de Meta en Estados Unidos, Reino Unido, Canadá y Australia. La empresa señaló que el despliegue se realizará de manera gradual en otros países durante los próximos meses.
Con esta medida, busca fortalecer las herramientas de protección para adolescentes que utilizan inteligencia artificial, al tiempo que recuerda que estos sistemas no reemplazan la atención psicológica o psiquiátrica cuando una persona enfrenta una crisis de salud mental.