Los ejecutivos que lideran la carrera de inteligencia artificial (IA) que embelesó a la industria de la tecnología, incluidos los directores ejecutivos de OpenAI, Google y Microsoft, se reunieron ayer en la Casa Blanca para lo que un alto funcionario estadunidense describió como un “debate franco” sobre sus responsabilidades para garantizar que sus sistemas sean seguros.
La reunión, a la que asistió la vicepresidenta Kamala Harris y otros altos funcionarios, se produjo cuando la administración de Joe Biden se esfuerza por desarrollar una respuesta más concertada a los rápidos avances tecnológicos recientes. También llega días después de que el pionero de la IA, Geoffrey Hinton, hiciera sonar una de las advertencias más notables sobre los peligros a largo plazo de desarrollar máquinas que se vuelvan más inteligentes que los humanos.
“Muchas de las grandes empresas de tecnología han hablado sobre sus responsabilidades, y parte de lo que queremos hacer es asegurarnos de tener una conversación sobre cómo van a cumplir con esas promesas”, dijo un alto funcionario de la administración, quien no no describió más regulaciones o acciones que la administración Biden puede considerar.
A los invitados se les dijo que la reunión se centraría en los riesgos derivados del desarrollo “actual y a corto plazo” de la tecnología, pero al subrayar la “responsabilidad fundamental de asegurarse de que sus sistemas sean confiables y seguros antes de que sean lanzados o implementados”, también ayudará a lidiar con “lo que serán tecnologías mucho más poderosas en el futuro”, dijo el funcionario.
Después de la reunión, Harris dijo en un comunicado: “Como compartí hoy con los directores ejecutivos de las empresas a la vanguardia de la innovación de IA estadunidense, el sector privado tiene la responsabilidad ética, moral y legal de garantizar la seguridad de sus productos. Y cada empresa debe cumplir con las leyes existentes para proteger al pueblo estadunidense”..
Según un informe, Biden también estuvo en la reunión.
Antes de la reunión, la Casa Blanca informó que siete de las empresas de inteligencia artificial más grandes habían acordado abrir sus modelos a un cierto grado de escrutinio público en la convención anual de hackers Def Con, que se celebrará en agosto; sin embargo, añadió que el nivel de apertura será “coherente con los principios de divulgación responsable”, por lo que no quedó claro cuánto revelarán las empresas. OpenAI se niega a revelar incluso información técnica básica sobre su último gran modelo de lenguaje, el GPT-4.
Los líderes de la insdustria de la tecnología que asistieron fueron Sam Altman, director ejecutivo de OpenAI; Satya Nadella, y Sundar Pichai, de Google y Alphabet, y Dario Amodei, de la empresa emergente Anthropic.
Los funcionarios de la administración en el encuentro fueron Jake Sullivan, director ejecutivo del Consejo de Seguridad Nacional; Lael Brainard, directora del Consejo Económico Nacional, y Gina Raimondo, secretaria de comercio, así como Jeff Zients, jefe de gabinete de la Casa Blanca.