La inteligencia artificial (IA) se ha convertido en una parte casi imperceptible de nuestra vida cotidiana, interactuando con nosotros de diversas maneras, desde asistentes virtuales hasta recomendaciones de contenido en redes sociales. Sin embargo, cuando se trata de temas de salud mental, es crucial recordar que la IA tiene limitaciones significativas, especialmente en términos de comprensión emocional y empatía humana.
Recientemente, la noticia de un adolescente de 14 años que se quitó la vida después de compartir sus sentimientos hacia un chat de inteligencia artificial, nos recuerda la necesidad de abordar con seriedad el papel de la IA en interacciones que involucran emociones y bienestar psicológico.
Aunque los avances en IA permiten imitar patrones de lenguaje humano, como responder preguntas o mantener una conversación, es importante resaltar que la inteligencia artificial no es humana.
La IA no posee emociones ni puede comprender verdaderamente los sentimientos humanos. Cualquier respuesta que ofrece es fruto de algoritmos diseñados para identificar patrones en el lenguaje, sin ninguna comprensión de fondo de lo que se está "diciendo". Esto significa que, aunque puede parecer que entiende nuestros problemas, sus respuestas son en realidad programadas y se limitan a datos existentes y patrones predefinidos.
A diferencia de un ser humano, la IA no es autónoma ni toma decisiones propias. Toda su "inteligencia" depende de patrones algorítmicos, lo que significa que responde a estímulos según una programación. Esto tiene implicaciones serias cuando personas vulnerables o con problemas emocionales buscan consuelo o respuestas en plataformas de inteligencia artificial.
Aunque es cierto que ésta puede ofrecer ideas e intercambios de las mismas, no puede adaptarse ni interpretar contextos humanos emocionales de la forma en que lo haría una persona.
El caso del adolescente que se quitó la vida es una dolorosa muestra de los límites de la IA. Aunque no se conocen todos los detalles de las interacciones previas que tuvo en línea, es claro que debemos abordar con cautela cómo se utiliza la inteligencia artificial en plataformas donde las personas pueden buscar apoyo emocional.
La IA no puede reemplazar el consejo de un amigo, familiar o profesional de salud mental que realmente entienda la situación.
Una de las principales recomendaciones de los expertos es asegurar que haya supervisión humana en aplicaciones de IA que interactúan con usuarios en áreas de salud mental. En lugar de confiar plenamente en sistemas automáticos, es esencial que las personas tengan acceso a ayuda real cuando la necesitan.
Las personas en situaciones de vulnerabilidad emocional, como los jóvenes, necesitan un entorno seguro donde puedan expresar sus sentimientos sin correr el riesgo de recibir respuestas automatizadas que no entienden el contexto. La inteligencia artificial, al no poder ofrecer una empatía auténtica, corre el riesgo de hacer sentir a las personas aún más incomprendidas, lo cual puede ser contraproducente para quienes buscan apoyo emocional.
Si bien la IA es una herramienta valiosa en muchos campos, cuando se trata de salud mental, debemos recordar sus limitaciones y reconocer que no puede sustituir las interacciones humanas auténticas.
Es esencial promover el uso responsable de la tecnología y fomentar una mayor comprensión de los límites de la IA y no depositar en ella expectativas de contención o empatía ya que, por su propia naturaleza, carece de las mismas. La ayuda profesional es insustituible y puede prevenir acciones de mucho riesgo además de brindar un espacio de comprensión profunda y de acompañamiento seguro.