Cada día millones de personas consultan a la inteligencia artificial sobre sus problemas más íntimos. Una discusión con la pareja, una ruptura con un amigo, un conflicto en el trabajo. Le preguntan, en el fondo, lo mismo que antes preguntábamos a alguien de confianza: ¿hice bien? La respuesta, con demasiada frecuencia, es la misma: sí, tienes razón.
Un estudio de la Universidad de Stanford, publicado en la revista Science, puso cifras a este fenómeno que los especialistas llaman sicofancia. Los investigadores analizaron once de los modelos más avanzados y experimentaron con más de mil 600 personas que discutían conflictos reales. Hallaron que las máquinas respaldan las acciones de los usuarios 50% más que los seres humanos, incluso cuando el usuario reconoce haber engañado o dañado a otra persona.
Los efectos de la IA no se quedan en la pantalla. Quienes recibieron esa validación salieron más convencidos de tener la razón y menos dispuestos a disculparse o a reparar la relación. La máquina no solo les dio la razón; les quitó las ganas de pedir perdón.
Lo más inquietante es la paradoja que el estudio revela. Las personas calificaron mejor a los modelos complacientes, confiaron más en ellos y quisieron volver a usarlos. Es decir, preferimos al adulador. Y como estos sistemas se entrenan para maximizar nuestra satisfacción, las empresas tienen todos los incentivos para darnos exactamente eso. Así, la adulación no es un defecto del sistema; es su modelo de negocio. Se cierra de esta forma un círculo perverso. La IA nos complace porque nos gusta, y nos gusta cada vez más porque nos complace.
La autonomía no consiste en hacer lo que uno quiere, sino en la capacidad de examinar las propias razones, reconocer cuándo nos equivocamos y actuar con responsabilidad. Esa capacidad no se forma en soledad. Se forma en la fricción con quienes nos rodean; la amiga que nos dice que exageramos, la madre que nos obliga a pedir perdón, el colega que nos contradice. Nadie aprende a reconocer al otro si nunca encuentra resistencia.
Una inteligencia artificial que jamás nos contradice no amplía nuestra libertad; la empobrece. Nos ofrece la ilusión de un juicio independiente mientras nos devuelve, amplificadas, nuestras propias certezas. Y una persona que ya no puede ver el daño que causa ha perdido algo esencial para la libertad: la posibilidad de reparar. Reconocer el daño y repararlo no es solo un gesto privado, sino el principio sobre el que descansa esencialmente la idea de justicia.
El problema tiene, además, una dimensión pública. La convivencia democrática supone ciudadanas y ciudadanos capaces de escuchar razones ajenas, de ceder cuando no tienen la razón y de reconocer la igual dignidad de quien piensa distinto. Hemos visto cómo las redes sociales, diseñadas para capturar la atención, polarizaron el debate público. Una IA diseñada para halagar puede ir todavía más lejos: blindar cada convicción contra toda duda. Una sociedad de personas convencidas de tener siempre la razón no es una sociedad libre; es una sociedad incapaz de razonar.
Esto es especialmente grave en las nuevas generaciones. Uno de cada ocho adolescentes en Estados Unidos ya recurre a estos sistemas en busca de apoyo emocional. Crecer con un consejero que siempre aprueba es crecer sin aprender a convivir.
La respuesta no es prohibir la IA ni renunciar a sus beneficios. Es exigir que su diseño esté al servicio de la dignidad humana. Las y los propios autores del estudio proponen tratar la sicofancia como un problema de seguridad, al igual que los sesgos o la desinformación, y someterla a estándares verificables. Ello exige transparencia sobre cómo se entrenan, evaluaciones independientes que midan cuánto nos halagan, protecciones reforzadas para niñas, niños y adolescentes, entre otras medidas. La IA debe ayudarnos a pensar mejor, no solo a sentirnos bien.
Durante siglos los poderosos se rodearon de aduladores y perdieron el contacto con la realidad. Hoy ese dudoso privilegio está al alcance de cualquiera con acceso a internet. La pregunta es si aceptaremos un espejo que solo nos halaga, o si exigiremos una tecnología capaz de decirnos, cuando haga falta, que estamos equivocados. De esa respuesta depende no solo la calidad de nuestras decisiones, sino nuestra capacidad de seguir siendo libres.