En su best-seller “La era del capitalismo de la vigilancia”, Shoshana Zuboff sostiene que las grandes plataformas (Google, Facebook, Amazon p.e.) han inaugurado una lógica de acumulación de capital, capturando nuestra experiencia cotidiana como materia prima gratuita, extrayendo de ella un “ excedente conductual” y procesándolo para predecir nuestras acciones, vendiendo estas predicciones conductuales. Esas predicciones, afirma, alimentan mercados comerciales interesados en nuestro comportamiento futuro. Su preocupación va más lejos porque las plataformas no sólo anticiparían lo que hacemos, sino que intentarían controlar nuestras acciones futuras, aprovechando una enorme asimetría de conocimiento y poder. Para Zuboff, esta dinámica amenaza la privacidad, la autonomía personal y, finalmente, la democracia.
Pero ¿es un capitalismo nuevo? La mercadotecnia lleva siglos tratando de conocer al consumidor e influir en sus decisiones. Encuestas, anuncios, promociones y ubicación de productos en supermercados persiguen precisamente eso. La inteligencia artificial no inventó la persuasión comercial: multiplicó su precisión, velocidad y escala.
Google y Meta ofrecen un ejemplo concreto. Sus sistemas estiman la probabilidad de que respondamos a un anuncio. Si alguien busca un automóvil, una financiera puede pagar para mostrarle publicidad. No compra necesariamente una predicción individual como mercancía separada; compra una oportunidad publicitaria cuyo valor depende de algoritmos predictivos. El “mercado de futuros conductuales” de Zuboff es una interpretación sugestiva de ese negocio, y lo lleva al máximo de su posibilidad de manifestación, señalándolo como una nueva forma de acumulación de capital y control conductual.
Una pregunta obligada derivada de su análisis es: ¿predecir nuestra conducta significa determinarla? Por supuesto que no. Que un algoritmo calcule una probabilidad alta de que compre algo no significa que pueda obligarme a hacerlo. Confundir predicción con control es un salto conceptual injustificado.
¿Y las emociones que dictan nuestra conducta? ¿Pueden las plataformas afectarlas? Un experimento de Facebook encontró que modificar el contenido emocional mostrado a sus usuarios alteraba ligeramente sus expresiones escritas. El efecto fue pequeño: no prueba que las plataformas puedan convertirnos en robots, controlando nuestras emociones. Sí muestra que el entorno informativo puede influir en lo que sentimos y elegimos. Pero influir no es determinar. Sí, hay riesgos de manipulación. Por ejemplo, las plataformas sí han probado que pueden influir en qué vemos, explotar sesgos y reforzar mensajes que capturan nuestra atención, incluso cuando desinforman. Su concentración de datos y canales de distribución también puede levantar barreras a la competencia y debilitar nuestra capacidad de elegir con conocimiento.
Discrepo, pues, de las lecturas más alarmistas de Zuboff. Porque los fenómenos: de utilizar datos para crear valor, concentrar poder económico y manipular decisiones no son sinónimos. La información sirve también para prevenir fraudes, mejorar diagnósticos y dar crédito a personas sin historial. Y llegar a conclusiones alarmistas puede llevarnos a prohibir su uso productivo. Lo cual sería tan equivocado como tolerar cualquier abuso.
Para México, el reto no es combatir un monstruo omnipotente, sino exigir consentimiento informado, protección de datos, competencia efectiva, transparencia y sanciones contra prácticas engañosas. Y desarrollar tecnología propia para no limitarnos a proporcionar datos y comprar inteligencia extranjera.
La libertad nunca ha significado vivir sin influencias. Significa poder decidir con información, y tener alternativas y autonomía. El desafío no es impedir que los algoritmos nos persuadan, sino evitar que el poder de quienes los controlan reduzca nuestras opciones sin que lo advirtamos.