Unos días antes del Día de Acción de Gracias del año pasado, Helen Toner y tres de sus pares en la junta directiva de OpenAI --la compañía de inteligencia artificial más conocida del mundo-- despidieron a su director ejecutivo, Sam Altman, en un sorpresivo intento golpista.
La razón que dieron fue la falta de franqueza de Altman en sus tratos con la junta, pero los detalles fueron mínimos. En los días siguientes, Toner, directora del grupo de expertos en inteligencia artificial de la Universidad de Georgetown, el Centro de Seguridad y Tecnología Emergente, se arremolinó en el centro de una crisis que amenazó con destrozar la compañía de ochenta y seis mil millones de dólares (mdd). Se convirtió en una figura simbólica de la oposición a Altman, un legendario y astuto operador de Silicon Valley.
El intento golpista duró cinco días, en medio de una intensa presión de los poderosos inversionistas, partidarios y empleados de la empresa emergente para reinstalar a Altman. Uno de los codirectores de Toner se fue a trabajar con Altman, el equipo directivo salió en su defensa y, al final del fin de semana largo, Altman volvió a ocupar el puesto de director ejecutivo. Toner se vio obligado a renunciar.
El enfrentamiento fue más que un choque de personalidades: desató un debate global sobre la naturaleza del poder corporativo y sobre si se puede confiar en los líderes del sector de tecnología de la actualidad para supervisar uno de nuestros inventos más poderosos.
Sentada en la parte trasera de un restaurante de Sichuan cerca del St James’s Park de Londres, Toner parece imperturbable ante el caos que ayudó a iniciar. Con una sencilla camiseta negra y el pelo corto y ondulado recogido hacia atrás con sensatez, que deja al descubierto pequeños aretes de esmeralda, la ingeniera de 32 años es una némesis improbable para Altman. Desde que dejó el escenario de OpenAI, la ingeniera nacida en Melbourne ha permanecido en silencio sobre la salida y sobre cómo se produjo. Para muchos, sigue siendo un enigma.
“Es muy difícil analizar lo que sucedió y concluir que el autogobierno va a funcionar en estas empresas”, dice, mientras toma un sorbo de té de jazmín. “O que podemos confiar en que las estructuras de autogobierno resistan las presiones de los diferentes tipos de poder e incentivos que están en juego aquí”.
“Para la junta directiva, hubo una trayectoria que pasó de ‘todo es de muy bajo riesgo, quieres ser bastante pasivo’ a ‘en realidad, estamos desempeñando esta función crítica de gobernanza en una situación de mucho riesgo, no solo para la empresa, sino para el mundo’”, dice.
Pasamos a la tarea relativamente sencilla de elegir nuestra comida, lo que nos lleva a descubrir nuestro vegetarianismo mutuo. Toner dejó la carne por razones de bienestar animal hace unos años, por lo que pedir el almuerzo se vuelve inesperadamente fácil. Decidimos el menú vegetariano para compartir, para probar tantos platos como podamos, unidas por nuestro amor por las comidas picantes.
Holden Karnofsky, su antiguo jefe, invitó a Toner a unirse a la junta directiva de OpenAI en 2021. Habían trabajado juntos en GiveWell, la organización sin fines de lucro con sede en California, que usaba los principios del altruismo efectivo --un controvertido movimiento social y filantrópico influyente en los círculos tecnológicos-- para realizar investigaciones y otorgar subvenciones. En GiveWell, Toner se interesó tempranamente en cuestiones de políticas de inteligencia artificial, en particular su uso militar y la influencia de la geopolítica en el desarrollo de la IA.
Karnofsky estaba por dejar su cargo en la junta directiva de la empresa y buscaba un reemplazo adecuado. Toner sabía que OpenAI tenía una estructura de gobierno complicada e inusual, que involucraba una estructura sin fines de lucro con subsidiarias con utilidades limitadas. (El FT tiene un acuerdo de licencia con OpenAI). Su mayor patrocinador, Microsoft, no poseía ninguna participación accionaria convencional en la empresa. En cambio, tiene derecho a recibir una parte de las utilidades de una subsidiaria específica de OpenAI, hasta un cierto límite. En sus estatutos, la empresa afirma que su “deber fiduciario primordial es con la humanidad” y que la junta directiva de la organización sin fines de lucro, que gobierna todas las actividades de OpenAI, debe actuar para promover su misión, en lugar de maximizar las ganancias para los inversionistas.
Toner estuvo preguntando si esta junta tendría algún poder real para exigir una rendición de cuentas a la empresa y la gente cercana a ella la convenció de que sí lo tendría. Para ella, parecía una forma potencialmente valiosa de contribuir al desarrollo de una IA segura y beneficiosa. “Lo curioso es que creo que la junta directiva (de OpenAI) tenía un fuerte filtro por alguien que fuera... agradable y práctico y alguien que construyera puentes y que no fuera a hacer demasiadas olas”, dice.
“Nunca estuve en esta junta directiva por diversión o por gloria. Definitivamente, el nivel de atención al que personalmente se me sometió no era algo que esperara”, me dice. “Creo que tener un hijo fue muy útil. Es algo que da muchos, muchos conocimientos básicos”.
El restaurante que eligió Toner, Ma La Sichuan, un lugar animado decorado con los tradicionales colores rojo y dorado, es un recuerdo de su estancia de nueve meses en Beijing en 2018, cuando estudió chino, se familiarizó con la comida de Sichuan y trabajó como investigadora asociada en IA y defensa.
Durante su estancia allí, trabajó con investigadores de aprendizaje automático y asistió a conferencias sobre IA y el ejército chino, a menudo como una de las pocas personas extranjeras. “A menudo se utiliza a China como un garrote en Washington para hacer cosas en materia de IA debido a China. Y a menudo no necesariamente está tan estrechamente relacionado con lo que China está haciendo realmente, o con el éxito que están teniendo en sus planes”, afirma.
Cómo elegimos el menú para compartir, las bandejas de platos humeantes comienzan a llegar en procesión, precedidas por aromas flotantes de chile y ajo. Hay hot cakes vegetarianos aromáticos de “pato” con cilindros delgados de pepino, poros y salsa hoisin (un plato pequinés inesperado en un lugar de Sichuan, señala Toner, pero crujiente, salado y dulce y delicioso de todos modos).
A esto le sigue un desfile de platos regionales favoritos, como el mapo tofu y la cazuela de berenjenas con aroma a pescado, con un plato seco de chícharos verdes finos coronados con montoncitos de ajo asado y láminas de chile que se derriten de forma picante en la lengua. La berenjena tiene toques de miso que me encantan.
“Ma es parte de la palabra china para anestesia o parálisis, y eso se debe a que la pimienta de Sichuan adormece la lengua y los labios”, explica. “Soy un poco adicta a ese sabor”.
La conversación regresa a OpenAI y a la relación de Toner con la compañía durante los dos años que formó parte de su junta directiva. Cuando se incorporó por primera vez, había nueve miembros, entre ellos el cofundador de LinkedIn, Reid Hoffman, Shivon Zilis, ejecutiva de la empresa de neurotecnología Neuralink de Elon Musk, y el congresista republicano Will Hurd. Era un ambiente universitario, dice, aunque en 2023 esos tres miembros renunciaron, dejando a tres no ejecutivos en la junta, entre ellos Toner, la empresaria de tecnología Tasha McCauley y Adam D’Angelo, el director ejecutivo del sitio web Quora, junto con Altman y los cofundadores de la empresa Greg Brockman e Ilya Sutskever.
“Llegué cuando la empresa estaba atravesando un cambio claro”, dice Toner. “Sin duda, cuando me uní, era mucho más comparable a estar en la junta directiva de una startup financiada por capital de riesgo, donde solo estás allí para ayudar y hacer lo que el director ejecutivo cree que es correcto. No quieres entrometerte ni meterte en el camino en nada”.
La transición en la empresa, dice, se precipitó por el lanzamiento de ChatGPT, del que Toner y el resto de la junta se enteraron en Twitter, pero también del modelo de IA más avanzado de la empresa, GPT-4. OpenAI pasó de ser un laboratorio de investigación, donde los científicos trabajaban en incipientes proyectos de investigación y de cielo azul (en el que no hay límites) que no están diseñados para que se utilicen masivamente, a una entidad mucho más comercial con una poderosa tecnología subyacente que tuvo impactos de largo alcance.
Le pregunto a Toner qué piensa de Altman, como persona y como líder. “Siempre tuvimos una relación amistosa, es un tipo amigable”, dice. Toner todavía tiene deberes legales de confidencialidad con la empresa y está limitada en lo que puede revelar. Pero hablando en el podcast en mayo, fue franca al afirmar que Altman engañó a la junta “en varias ocasiones” sobre sus procesos de seguridad existentes. Según ella, Altman ocultó información, tergiversado deliberadamente lo que estaba sucediendo en la empresa y, en algunos casos, mintió abiertamente a la junta directiva.
Señaló el hecho de que Altman no le informó a la junta sobre el lanzamiento de ChatGPT, o que era propietario del OpenAI Startup Fund, un fondo de capital de riesgo que había recaudado de socios limitados externos y en el que tomaba decisiones de inversión, a pesar de que, dice Toner, afirmaba “ser un miembro independiente de la junta sin ningún interés financiero en la compañía”. Altman renunció al fondo en abril de este año.
En las semanas previas al despido de noviembre, Altman y Toner también tuvieron un enfrentamiento por un documento que ella escribió en coautoría sobre las percepciones públicas de varios desarrollos de IA, que incluía algunas críticas al lanzamiento de ChatGPT. Altman sintió que presentaba de mala forma a la empresa. “Si hubiera querido criticar a OpenAI, habría habido muchas formas más efectivas de hacerlo”, dice Toner. “La verdad es que no tengo claro si realmente le afectó o si estaba buscando una excusa para intentar echarme de la junta”.
ella dice...“Es muy difícil analizar lo que sucedió y concluir
que el autogobierno va a funcionar en estas empresas”
Hoy, dice que todos esos son ejemplos meramente ilustrativos que señalan patrones a largo plazo de comportamiento poco fiable que Altman exhibió, con el Consejo pero también con sus propios colegas. “Lo que cambió todo fueron las conversaciones con los altos ejecutivos que tuvimos en el otoño de 2023”, dice. “Ahí es donde empezamos a pensar y hablar más activamente sobre (hacer) algo específicamente con Sam”.
Las críticas públicas a la decisión de la junta abarcaron desde críticas personales a Toner y sus codirectores --muchos la describen como una “decel”, alguien que está en contra del progreso tecnológico-- hasta la desaprobación de cómo la junta directiva manejó las consecuencias. Algunos señalaron que el momento que eligió el Consejo fue inoportuno, dada la venta simultánea de acciones en OpenAI, lo que potencialmente ponía en peligro los pagos de los empleados.
En marzo pasado, una revisión independiente que llevó a cabo un bufete de abogados externo sobre los hechos concluyó que la conducta de Altman “no exigía su destitución”. El emprendedor se reincorporó a la junta directiva ese mismo mes. En ese momento dijo que estaba “contento de que todo esto haya terminado”, y agregó: “Durante estos últimos meses ha sido desalentador ver a algunas personas con una agenda, que intentan provocar filtraciones en la prensa para tratar de dañar a la empresa y perjudicar la misión. No han funcionado”.
En opinión de Toner, el resultado de la revisión suena como si la nueva junta hubiera planteado la pregunta de si se tenía que despedir a Altman. “Lo que creo que se interpreta como: ‘¿Hizo algo ilegal?’ Y no es así como creo que la junta necesariamente debería evaluar su conducta”, dice.
“En ningún lado han cuestionado ninguna de las afirmaciones reales que hicimos sobre lo que salió mal o por qué lo despedimos… que era sobre confianza, responsabilidad y supervisión”.
En una declaración al FT, el presidente del Consejo de Administración de OpenAI, Bret Taylor, dijo que “más de 95 por ciento de los empleados, incluida la alta dirección, solicitó la reincorporación de Sam”. Toner no puede explicar --¿y no anticipó-- las deserciones del personal de alto nivel, incluido el miembro del Consejo Sutskever, que en cuestión de días pasó de criticar a Altman a apoyarlo. “Aprendí mucho sobre cómo reaccionan las distintas personas a la presión en diferentes situaciones”.
Avanzamos con eficiencia con el festín, y estamos de acuerdo en que el crujiente y fragante mapo tofu es la estrella del espectáculo. Le pregunto a Toner cómo cambió su vida desde noviembre, e insiste en que no. Conserva su trabajo de tiempo completo en CSET, donde asesora a altos funcionarios del gobierno sobre políticas de IA y seguridad nacional, hace su propio pan de centeno en casa con su esposo, un científico alemán, y lidia diariamente con los esfuerzos de criar niños pequeños.
En ese momento, cuando la crisis de OpenAI se convirtió en un largo fin de semana sin dormir lleno de negociaciones y control de daños, admite que le dio una nueva apreciación por su comunidad en DC. Dado que muchos de sus colegas estaban en el espacio de seguridad nacional, habían lidiado con “crisis reales, donde la gente moría o había guerras, así que eso lo puso en perspectiva”, dice. “Unas cuantas noches sin dormir no es tan malo”.
Su mayor aprendizaje fue sobre el futuro de la gobernanza de la IA. Para ella, los eventos en OpenAI aumentaron la importancia de lograr una supervisión externa adecuada para el pequeño grupo de empresas que compiten por desarrollar poderosos sistemas de IA. “Puede significar regulación gubernamental, pero también podría significar simplemente… estándares para toda la industria, presión pública, expectativas públicas”, dice.
Esto no es solo el caso de OpenAI, enfatiza, sino también de empresas como Anthropic, Google y Meta. Establecer requisitos legales en torno a la transparencia es crucial para evitar construir una herramienta que sea peligrosa para la humanidad, cree.
“(Las empresas) también están en una situación difícil, en la que todas intentan competir entre sí. Y entonces hablas con personas dentro de estas empresas y casi te ruegan para que intervengas desde afuera”, dice. “No solo se trata de confiar en la beneficencia y el juicio de individuos específicos. No deberíamos permitir que las cosas se establezcan de tal manera que un pequeño número de personas sean las que decidan lo que sucede, sin importar lo buenas que sean esas personas”.
Toner llegó a las políticas de la IA por un camino inusual. Cuando era estudiante universitaria en Melbourne, se familiarizó con el Altruismo Eficaz (AE). La comunidad de AE la sedujo por sus ideas de ayudar a mejorar el mundo de una manera que requería pensar con la cabeza y el corazón, dice.
La comunidad de AE --y su problemática forma de trabajar-- fue arrastrada al centro de atención en 2022 por su promotor y donante más público, Sam Bankman-Fried, el fundador, que cayó en desgracia, de la empresa de comercio de criptomonedas FTX. Toner dice que lo conocía “un poco, no muy bien”, y que lo vio “una o dos veces”.
“He estado mucho menos involucrada en los últimos años, principalmente por este tipo de pensamiento colectivo y adoración a los héroes. (Bankman-Fried) es un síntoma de eso”, dice. “Lo último que escribí (sobre eso) fue acerca de quedar desilusionada con AE, tanto por cómo fue mi experiencia así como por la forma cómo vi que fue la experiencia de otros”.
En este punto, ya estamos satisfechas con la comida, pero no podemos resistirnos a picotear las sobras para saborear otra pizca de ese sabor a pimienta que entumece. Un estómago lleno parece el momento adecuado para hacer la pregunta distópica sobre la próxima ola de sistemas de IA. “Una cosa que (AE) hicieron realmente bien es tomar en serio la posibilidad de que podamos ver sistemas de IA muy avanzados en nuestras vidas y eso podría ser un gran cambio para lo que sucede en el mundo”, dice. “En 2013, 2014, cuando estaba empezando a escuchar este tipo de ideas, parecía muy contracultural, y ahora…sin duda parece más común”.
A pesar de esto, tiene fe en la capacidad de la humanidad para adaptarse. “En general, me siento algo esperanzada de que tendremos espacio para respirar y prepararnos”, dice.
A lo largo de nuestra conversación, Toner se ha contenido al relatar sus intentos de enfrentarse a uno de los directores ejecutivos más poderosos del sector de tecnología. Gran parte de las críticas personales y la atención que se vio obligada a aceptar podrían haberse evitado si hubiera actuado de otra manera, se hubiera preparado mejor para las consecuencias o hubiera buscado más asesoría, tal vez. Me siento obligada a preguntarle si alguna vez se cuestiona a sí misma, sus acciones o sus métodos de noviembre pasado.
“Quiero decir, todo el tiempo”, dice, con una gran sonrisa. “Si no te cuestionas a ti misma, ¿cómo es que tomas buenas decisiones?”
CHC