Fue necesario atravesar la ciudad casi todas las noches. El hospital estaba en Ecatepec y yo vivía en Coyoacán. Eran caminos desconocidos. Usé casi todos los navegadores: Google Maps, Waze, Mapas… Quería rutas seguras, pero el objetivo de mi guía era otro: llevarme rápido a mi destino. No le importaba cuánto me ponía en peligro con sus sugerencias: me pedía atravesar Tepito después de las dos de la madrugada, porque a esa hora no había ni un alma en Eje Uno Norte y el tránsito era fluido.
Mi mamá estaba agonizando. El último horario para visitarla concluía cerca de la una de la madrugada. Volver a casa para tener tres o cuatro horas de sueño era vital, con el propósito de llegar al día siguiente a las 7 de la mañana, cuando se me permitía el acceso otra vez a la sala de urgencias. Mi deseo de encontrar una ruta con menos estrés era incompatible con la prioridad de los GPS; para ellos lo importante era ahorrar tiempo, sin importar el riesgo para mí.
La IA, los algoritmos, ya metieron la nariz en casi todos los aspectos de nuestra vida. A veces, cuando me siento muy nerviosa o angustiada, y no logro concentrarme en mi respiración para conseguir calma, me cuento chistes, solo me dan risa a mí. En esas madrugadas de pánico, cuando atravesé aterrorizada zonas de Azcapotzalco, La Lagunilla o Peralvillo, por las brillantes sugerencias de las aplicaciones, imaginé, para reír y no llorar: en el futuro, cuando alguien tenga un robot con IA para limpiar su casa, necesitará aprender a dar instrucciones muy precisas, porque si al salir le dice “limpia de manera profunda, deja todo impecable”, al volver, correrá el riesgo de encontrar a su gato muerto, eso sí, bien envueltito para no contaminar, en los contenedores de basura, junto con todas sus plantas y buena parte de la comida del refrigerador. El objetivo se habrá cumplido: su hogar lucirá reluciente, esterilizado y libre de bacterias. Incluso, quizá el robot, para hacer contacto con su humano, simulará contento, emitirá lucecitas de satisfacción y, por qué no, tal vez espere unas gracias.
Nos asusta la capacidad de la IA para tomar decisiones. Se habla de ser exterminados por ella o, en el mejor de los casos, solo nos reemplazará en nuestros empleos, pero ¿cuál es el peligro más inminente? No lo sabemos con exactitud, aunque hay riesgos claros: delegar nuestro juicio a los algoritmos y acostumbrarnos a no pensar; perder de vista lo importante: la vida. La IA optimiza sin evaluar, puede materializar nuestras peores oscuridades. Uno de los conflictos más profundos a enfrentar con el uso de IA es que infiere con lógica matemática, pero no comprende.
En seguridad de la IA, uno de los mayores retos es el “problema del alineamiento”. Es lo que viví en los trayectos del hospital a casa: el sistema cumple al pie de la letra el objetivo que se le dio, dar las mejores opciones de tránsito para ahorrar tiempo. Pero no atiende las necesidades de quien lo usa: proteger mi integridad. La IA obedece a los fines, pero puede ser impredecible en los medios que usará. El desafío de los programadores se parece al conflicto humano ancestral de la convivencia: ¿cómo lograr que se respeten valores, intenciones y principios éticos? La IA tiene competencia técnica notable, pero no comprensión moral, no se plantea qué es correcto o incorrecto, ni cuándo un acto o sugerencia puede perjudicar.
La inteligencia humana
La inteligencia humana es orgánica, encarnada: pensamos con todo nuestro ser. Usarla no es una facultad aislada, es biología y psique actuando al unísono. Antonio Damasio lo mostró en pacientes con daño en la corteza prefrontal ventromedial: su memoria y lógica seguían intactas, pero decidían desastrosamente. Para Damasio, sin la emoción, el razonamiento pierde su brújula; en El error de Descartes lo argumenta con amplitud. El pensamiento es la inteligencia en acción: en él intervienen cuánta empatía, autoconsciencia y creatividad hemos sido capaces de desarrollar; además, la atraviesan la cultura, el entorno y la historia personal, todo para preservar la vida.
La IA se entrena para seguir instrucciones sin cuestionar, pero dar y cumplir órdenes sin criterio ya sabemos a dónde conduce. Hannah Arendt llamó “banalidad del mal” a la ausencia de pensamiento que observó en Adolf Eichmann, encargado de buena parte de la logística de las deportaciones durante el gobierno nazi. Para Arendt lo que nos protege contra el mal es pensar. Atender peticiones implica tomar en cuenta sus consecuencias.
¿Lograremos que la IA aprenda a valorar la vida si no siente? El pensamiento puro y abstracto no existe en el vacío, el conocimiento, al que le damos nombre, se impregna de nuestra historia, cultura y afectos. Las palabras no son etiquetas frías, son símbolos, en sus entrañas laten experiencias vividas. Los datos, por sí mismos, no son conocimiento: es el sujeto, un ser vivo, quien les da sentido al usarlos. Las acciones parten de intereses y necesidades, responden a un para qué y por qué, aunque no siempre seamos conscientes de ello. Por eso la ética es central en todo acto, no hay ética sin sensibilidad, sin capacidad de sentir. La ética es humana.
La IA y la razón instrumental
En 1944, exiliados en Estados Unidos por el nazismo, Max Horkheimer y Theodor Adorno hicieron circular los borradores de Dialéctica de la Ilustración, publicada después en 1947. Allí advirtieron que el afán de dominar la naturaleza mediante la técnica terminaría por tratar a los humanos como cosas, variables de una ecuación, medios para un fin.
Horkheimer desarrolló la idea en Crítica de la razón instrumental. Si abandonamos la “razón objetiva”, la que busca comprender, se pregunta por el sentido de los actos, se ocupa del bien común, la verdad y la justicia, solo queda la “razón instrumental”: encontrar los medios más eficientes, rápidos y económicos para fines prácticos, sin considerar su afectación moral, consideraciones éticas o tomar en cuenta principios de justicia. En términos más sencillos: los modelos actuales de IA optimizan el objetivo que se les da y consideran las restricciones con que fueron entrenadas, pero no se preguntan si está bien o mal hacer algo, si beneficia a todos o si se preserva la vida; dan preferencia a responder a cuál es la mejor estrategia técnica para lograr el objetivo.
La “razón instrumental” no nació con la IA, el humano encontró la forma de convertirla en una máquina, en sistemas.
La definición de IA aceptada en 2023 por la Organización para la Cooperación y el Desarrollo Económicos (OCDE) la usa el Reglamento de la IA de la Unión Europea, la explica como: “Un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la información que recibe, cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. Diferentes sistemas de IA están diseñados para operar con distintos niveles de autonomía y adaptabilidad después de su despliegue”.
La palabra clave en esa definición es: infiere. La IA analiza cantidades inmensas de datos a toda velocidad, encuentra patrones, calcula probabilidades y optimiza. El razonamiento humano es un proceso más complejo, organiza ideas, evalúa, para muy diversos fines.
En marzo de 2024 se volvió popular la publicación en X de la escritora Joanna Maciejewska: “Quiero que la inteligencia artificial lave mi ropa y mis platos, así puedo hacer arte y escribir; no quiero que la inteligencia artificial haga arte y escriba para que me deje a mi lavar la ropa y los platos”. Parece absurdo, pero las cosas más simples para nosotros, como limpiar la casa, exigen criterio, improvisación y decisiones todo el tiempo. El trabajo doméstico, al ser tan común, parece irrelevante. No olvidemos al gato en el contenedor de basura.
La paradoja de Moravec, formulada por el científico Hans Moravec y desarrollada después por Rodney Brooks y Marvin Minsky, observa que para una máquina es relativamente fácil procesar grandes volúmenes de datos, demostrar teoremas lógicos o ganarle a un maestro de ajedrez; y más difícil para ella atarse las agujetas de los zapatos o manipular un objeto delicado. ¿Por qué? La lógica y las matemáticas se basan en reglas explícitas. Doblar ropa o limpiar cristal cortado exige sensibilidad táctil, no cálculo. Sentir es el resultado de una larga evolución.
El sentido común y la IA
Quizá nos enganchamos con la IA y nos parece afín por algo que compartimos con su modo de proceder: la forma, a veces irreflexiva, de usar nuestro sentido común. La semejanza es muy superficial, mis consideraciones podrían ser, más bien, un paralelismo. El llamado sentido común es una especie de base de datos compartida, de conocimientos obvios y prácticos que damos por ciertos, una sabiduría bastante falible.
Como la IA, el sentido común infiere: usa información heredada por una cultura, familia o grupo social; llegamos a una conclusión de manera automática, por intuición, sin investigar o hacer un análisis profundo. Vemos humo: puede ser un incendio, pero también alguien que hace carne asada. Rara vez tenemos toda la información, el sentido común rellena, infiere lo obvio, y muchas veces se equivoca. Si nos cuentan: “fui a un restaurante, pedí una sopa y luego la cuenta”, asumimos que quien narra se la comió y pagó. Cuando, quizá, nuestro amigo probó un sorbo y ¡sabía tan mal! que, sin pensar más, pidió la cuenta, escribió un reclamo y se fue.
En defensa del sentido común podría decir que casi todos estamos atentos a la sensibilidad de los demás. Al actuar sabemos: sienten, sufren, disfrutan. Nuestra “base de datos” es un acumulado de experiencias vividas por generaciones; hacemos supuestos, pero desde la empatía y la historia compartida. Los modelos de lenguaje se nutren de las huellas por escrito de nuestras experiencias y afinan con la retroalimentación humana, no tienen vivencias. Igual que el sentido común, la IA nos traiciona cuando renunciamos a pensar y damos por inapelable lo obvio: se nos olvida que puede haber discrepancia entre la interpretación de los hechos y lo que ocurre.
¿A qué le tememos, a nosotros mismos o a la IA?
Nos sabemos propensos al error, a ser autoritarios, inflexibles. Conocemos la fuerza de los deseos, cuán irrefrenables son a veces y qué estamos dispuestos a hacer para autocomplacernos. Renunciamos a pensar confiados en lo obvio. Las pasiones, la vanidad o el enojo se apoderan de nosotros, luego, no nos reconocemos en lo que hicimos. Mentir es una manera de eludir una responsabilidad, de no lastimar o de favorecer nuestros intereses. ¿Quién puede asegurar ser impecable?, todos hemos hecho algo de lo anterior, una o varias veces; eso no nos convierte en seres infernales.
Somos complejos, las miles de inteligencias artificiales también lo son, aunque de otra manera. Los modelos avanzados no se programan línea por línea, se entrenan: por eso generan respuestas y habilidades impredecibles para sus creadores. Muchas veces no se sabe qué camino siguió el sistema para dar una respuesta. Se les entrena para predecir cómo continúa un texto, por eso llegan a inventar datos sin sustento. Si se les alimenta con información sesgada o errónea, pueden amplificar esos sesgos. Su impacto social y ético aún no es calculable. A sus creadores les ha costado convertir en código la capacidad humana de discernir, aún no lo logran.
Horkheimer y Adorno pusieron el dedo en la llaga: ¿cómo evitar que nuestras herramientas nos aniquilen? Un martillo mete un clavo en la pared o descalabra al vecino. El objetivo lo determina quién lo usa y para qué. Pero la IA no es un martillo, decide por su cuenta, con poca supervisión, por eso la responsabilidad de quien la usa es enorme. Es vital hacernos cargo de cómo y para qué la utilizamos; permitir que se diluyan las responsabilidades bajo el argumento de que la IA es un agente autónomo e impredecible, nos coloca en tierra de nadie. Cuando dejamos a los algoritmos tomar el control de qué música escuchamos, cuál ruta es la óptima, quién merece un crédito bancario y evaluamos a un líder político por su popularidad en redes, nos exponemos a lo que György Lukács llamó reificación: nos cosificamos y le permitimos a los sistemas, a las máquinas, adiestrarnos.
No renunciar a pensar nos protege de la barbarie. El razonamiento humano no es un cálculo de vectores; es un tejido de símbolos, cuando escogemos una palabra como mar o padre no seleccionamos un término en un menú de posibilidades, expresamos una experiencia. El vacío simbólico de la IA la vuelve deficiente para entender a cabalidad la ética. Ser ético no es aplicar un código, nace de la capacidad de comprender y conmovernos, de sentir compasión y usarla para pensar cuál puede ser la trascendencia de una decisión. La ética tiene sustento en la experiencia de estar vivos. Es improbable que la IA entienda el sufrimiento: lo infiere porque ha englutido cantidades inmensas de datos.
El error y la responsabilidad
Mi madre pasó sus últimos dos meses de vida en cama, no podía mover su cuerpo. Se le formaron escaras, úlceras por presión, en la espalda, piernas y brazos. Al ingresarla por última vez al hospital, una médica residente nos dijo a mi hermana y a mí: “su madre tiene graves señales de descuido, es probable que informemos al ministerio público”. Nos asustamos y de inmediato fui con la directora de urgencias. La residente había hecho una inferencia equivocada: no revisó el historial médico, atribuyó a falta de atención algo inevitable. Le llamaron la atención pero no rectificó, ni asumió su error, se defendió: “dije que era probable, no lo afirmé”.
Hizo una inferencia sin contexto y evadió su responsabilidad. No fue un acto inocente o una incapacidad, decidió negar su error. Dejó de sentir empatía por nuestro dolor. ¿Qué fue más importante para ella, salvar su reputación? ¿En quién nos convertimos cuándo no reconocemos las consecuencias de nuestras acciones? La sensibilidad nos permite compartir el sufrimiento, conmovernos, pero el solo hecho de sentir, si perdemos la honestidad, se vuelve insuficiente para usar la inteligencia de forma íntegra. La ética nos exige examinar qué hacemos, ante nosotros mismos y los demás.
¿Por qué nos preocupa tanto equivocarnos y buscamos con desesperación ser infalibles? La IA expresa nuestro deseo de evitar errores y también es una forma de eludir responsabilidad. Una IA generativa actúa de manera autónoma, ¿quién asume las consecuencias de sus acciones? En términos legales aún no está claro. Los errores cuestan, y en una cultura donde se mide el valor de las personas por su productividad, equivocarse es perder.
Y, sin embargo, el error es la posibilidad de ensanchar la consciencia: reconocer las consecuencias de nuestros actos permite asumir responsabilidades. A veces está tan enraizado el sopor de lo habitual que aspiramos a la comodidad como un valor. Estar anestesiado tiene sus bondades. Entonces, en ocasiones, solo una sacudida brutal nos despierta: una enfermedad, la pérdida de un ser querido, un conflicto. No digo que necesitemos el dolor, solo que es inevitable, es parte de estar vivos. Cuando llega, podemos usarlo para ver lo importante o permitir que nos endurezca.
Clarice Lispector abre La pasión según G. H. con una confesión inquietante que nos puede acompañar:
…estoy busque y busque. Intento entender. Intento darle a alguien lo que he vivido y no sé a quién, pero no deseo quedarme con lo que he vivido. No sé qué hacer con lo que viví, le tengo miedo a esa desorganización profunda. No confío en lo que me sucedió. ¿Me sucedió algo que yo, debido a que no sé cómo vivir, lo he vivido como si fuera otra cosa?
Renunciar al pensamiento propio en busca de optimización, querer respuestas veloces, sin importarnos el proceso, quizá nos conduce a la extrañeza de nosotros mismos, a esa forma enferma de habitarnos y habitar el mundo donde solo lo que lastima nos hace sentir vivos.
Aquellas noches, cuando el navegador insistía en ponerme en riesgo, me salvó mi propósito de volver al hospital al día siguiente. Eso me sostuvo para no dejarme vencer por el cansancio y la frustración. El miedo y el dolor no fueron un estorbo, agudizaron mi necesidad de pensar para no perder de vista lo importante.
Quizá nuestro mayor temor no es la falta de control y la escasa regulación para usar la IA; tal vez le tememos más a qué somos capaces de hacer al usarla, en quién nos podemos convertir, ¿cuál es el costo de la comodidad que nos ofrece?, ¿podemos despertar antes de que llegue la sacudida del dolor? Hoy más que nunca necesitamos comprender: ¿qué nos hace humanos?
AQ / MCB