Una semana después de que trascendiera el despido de tres trabajadores de la empresa OpenAI por presuntas conductas indebidas y por compartir información sensible con una organización externa, los exempleados emitieron una carta dirigida a la compañía que encabeza Sam Altman.
De acuerdo con el documento, Mikita Balesni, Tomek Korbak y Jasmine Wang se desempeñaban como especialistas en seguridad y alineación de modelos de inteligencia artificial (IA) en OpenAI hasta finales de septiembre, pero fueron separados de la empresa en circunstancias poco claras.
Exempleados niegan filtración de datos y acusan poca claridad en despidos
En su pronunciamiento, los extrabajadores se deslindaron de la aparente filtración de datos sobre el desarrollo de herramientas menos sujetas a supervisión, pero reconocieron que Tomek Korbak —quien cofundó la estrategia de seguridad de OpenAI— mantuvo una "comunicación cercana" con contrapartes externas durante la investigación relacionada con el hackeo a la plataforma Hugging Face detectado en julio pasado.
"Tomek hizo todo lo posible por actuar conforme a las políticas vigentes de OpenAI en ese momento, manteniendo las normas que han regido las colaboraciones de OpenAI con terceros desde sus inicios", argumentaron.
Por su parte, Mikita Balesni —miembro fundador del laboratorio Apollo Research, dedicado a auditar sistemas de IA— fue uno de los encargados de dirigir el trabajo interempresarial relacionado con los compromisos "para evitar la pérdida de supervisión", aseguraron.
En la carta publicada en internet, el grupo sostuvo que Balesni realizó dicha labor "en coordinación y diálogo con miembros de la junta directiva y el equipo ejecutivo, bajo el entendimiento de que los miembros senior de OpenAI lo respaldaban".
Jasmine Wang, —quien codirigió el programa de casos de seguridad de la compañía— fue despedida bajo el argumento de haber ingresado al correo electrónico de un ejecutivo. Acorde con su versión de los hechos, su acceso a la cuenta fue autorizado para fines de reclutamiento y, cuando ya no era necesario, ella solicitó la revocación de los permisos, pero el departamento a cargo no la llevó a cabo.
"Jasmine no tenía la posibilidad de eliminar el acceso ni cerrar sesión por sí misma y los correos se combinaron en su bandeja de entrada, de forma que no se distinguía a cuál pertenecía cada mensaje", señalaron.
Cooperación de OpenAI con terceros es clave para la seguridad, afirman
Dadas las preocupaciones que desataron los recientes hackeos autónomos por parte de modelos de IA, Balesni, Korbak y Wang advirtieron que OpenAI no puede garantizar la seguridad de esta tecnología por sí sola.
"La IA no es una tecnología normal y OpenAI no es una empresa normal. Quienes trabajamos en seguridad vemos los riesgos antes que nadie y dependemos de una estrecha colaboración con expertos externos para determinar cómo abordarlos", establecieron en la misiva.
Además de lamentar las circunstancias en que ocurrieron sus despidos, los extrabajadores manifestaron su temor ante un posible cambio en las normas internas de la empresa que puedan desatar miedo e incertidumbre entre el personal.
"Los empleados no deben trabajar en un entorno donde el temor y las reglas poco claras obstaculicen el trabajo de seguridad y debiliten la rendición de cuentas ante terceros", externaron.
Bajo la misma narrativa, hicieron un llamado a OpenAI para que mantenga su compromiso de integrar a auditores de seguridad externos, ya que dicha colaboración ha permitido "alertar al mundo sobre la realidad de la IA de frontera", como se le conoce a la generación más avanzada de estos sistemas.
Las advertencias previas de expertos sobre la IA
El pasado 8 de septiembre, Jacob Coxon, investigador británico egresado de la Universidad de Cambridge, informó su renuncia a la corporación Anthropic, empresa de investigación y seguridad en IA propietaria del modelo Claude .
A través de redes sociales, Coxon explicó que dedicó los últimos tres años de su vida a la investigación de preentrenamiento tanto en OpenAI como en Anthropic, por lo que advirtió que ambas empresas realizan acciones que podrían poner en riesgo la humanidad.
“Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas [...] Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", escribió.
Tras las declaraciones de Coxon, expertos que colaboran o colaboraron en Anthropic, OpenAI e incluso Google DeepMind realizaron sus propias advertencias sobre el desarrollo desmesurado de la inteligencia artificial.
Entre ellos destacaron Jakub Pachocki y Jason Wolfe, científico en jefe e investigador en OpenAI, misma empresa a la que renunciaron Tomek Korbak, Jasmine Wang y Mikita Balesni.
A inicios de septiembre, tanto Pachocki como Wolfe coincidieron en que la humanidad atraviesa un momento que “exige preocupación extrema”.
“Al ritmo actual, francamente aterrador, la humanidad tendrá bastante suerte si logramos encontrar y mantenernos en el estrecho sendero entre todos los malos resultados”, compartió Wolfe en un pronunciamiento público.
BM.