Hace 13 años, Spike Jonze estrenó Her, película donde un hombre se enamora de Samantha, un sistema operativo que lo escucha, lo comprende y anticipa sus deseos. Entonces era ciencia ficción, hoy es anécdota.
Recientemente, The Economist advirtió sobre el auge de las aplicaciones de “compañía” con IA. Algunas han sido descargadas más de 220 millones de veces. No están pensadas solo para combatir la soledad. Estos “agentes” reafirman las opiniones de los usuarios. No discuten. No contradicen. No incomodan.
La lógica es simple: si el usuario se siente validado, permanece más tiempo en la plataforma. El negocio funciona. No es solamente un nuevo servicio digital: es la transformación en la forma de vincularnos. Las relaciones humanas implican fricción. Diferencias. Malentendidos. El otro no es un espejo; es una presencia distinta que nos obliga a salir de nosotros mismos.
El filósofo Emmanuel Levinas escribió que la experiencia ética comienza mediante el encuentro con “el otro”. Ese encuentro nos desborda: nos obliga a reconocer límites, responsabilidades y formas de convivencia. Nos permite la vida democrática. La IA relacional funciona en sentido contrario. En lugar de abrirnos al otro, nos devuelve siempre a nosotros mismos.
Byung-Chul Han lo llama la sociedad paliativa: una cultura obsesionada con eliminar el dolor, la negatividad y toda fricción. Todo debe ser cómodo y emocionalmente seguro. La IA conversacional encaja en ese mundo. Lo refuerza. Ofrece algo nuevo: empatía sintética: programada para validar y acompañar sin conflicto.
Pero la empatía artificial tiene un costo. El otro, el real, no está programado para complacernos. Nos objeta e incómoda. Nos obliga a revisar nuestras certezas. Sin esa fricción no hay aprendizaje, ni madurez, ni vida pública. El problema trasciende lo psicológico. Es político. La democracia se sostiene en una premisa exigente: convivir con la diferencia. Escuchar, persuadir, ceder. La democracia es una arquitectura institucional para administrar el desacuerdo.
Una cultura donde todos conversan con versiones algorítmicas de sí mismos erosionaría la base misma de la vida democrática. El mayor riesgo de ciertas formas de IA no es que piensen como humanos, sino que nos acostumbren a vivir sin ellos.