Microsoft trabajó con una universidad china dirigida por militares en investigación de inteligencia artificial que puede usarse para vigilancia y censura, una revelación que provocó la ira entre los políticos de línea dura con China en el Capitolio.
Tres artículos, que se publicaron entre marzo y noviembre del año pasado, fueron escritos en colaboración, por académicos de Microsoft Research Asia, en Pekín, e investigadores afiliados a la Universidad Nacional de Tecnología de Defensa de China (NUDT, por sus siglas en inglés), que está bajo el control del principal organismo militar del país asiático, la Comisión Militar Central.
En uno de los documentos se describe un nuevo método de inteligencia artificial para recrear mapas ambientales detallados mediante el análisis de rostros humanos, que según los expertos podrían tener aplicaciones claras para la vigilancia y la censura.
El documento reconoce que el sistema proporciona una mejor comprensión del entorno circundante “que no ve la cámara”, el cual puede tener una “variedad de aplicaciones de visión”.
Samm Sacks, alto miembro del grupo de reflexión New America y experto en políticas de tecnología de China, dijo que los documentos plantean “banderas rojas debido a la naturaleza de la tecnología, las afiliaciones de los autores, en combinación con lo que sabemos sobre cómo se despliega esta tecnología en China en este momento”.
“El gobierno chino utiliza estas tecnologías para desarrollar sistemas de vigilancia y detener a las minorías (en Xinjiang)”, agregó Sacks.
El gobierno de Estados Unidos debate si las colaboraciones de investigación, sobre todo en áreas sensibles como la inteligencia artificial y la realidad aumentada, deberían estar sujetas a controles más estrictos de exportación.
Después de que el Financial Times informó sobre el trabajo de Microsoft, el senador Ted Cruz, el republicano de Texas que se convirtió en uno de los principales políticos con línea dura sobre China, advirtió que “debemos asegurarnos de que los intereses comerciales estadunidenses no están permitiendo la opresión del Partido Comunista Chino”.
“Las empresas estadunidenses deben entender que hacer negocios en China conlleva un riesgo importante y cada vez más profundo”, agregó Cruz. “Además de ser el blanco del Partido Comunista chino para el espionaje, las compañías estadunidenses están en un riesgo cada vez mayor de aumentar las atrocidades de derechos humanos del Partido Comunista Chino”.
Microsoft defendió la investigación y dijo que era parte de un esfuerzo mundial de sus científicos, que a menudo son académicos, para trabajar con sus contrapartes internacionales en temas de tecnología de vanguardia.
“La investigación se guía por nuestros principios, cumple plenamente con las leyes locales y de EU y se publica para garantizar la transparencia para que todos puedan beneficiarse de nuestro trabajo”, dijo la compañía.
Pero Adam Segal, director de política de ciberespacio en el grupo de reflexión del Consejo de Relaciones Exteriores, señaló que la revelación se produce en un momento en el que las autoridades estadunidenses, entre ellas el FBI, pusieron “bajo el microscopio” las asociaciones académicas con Pekín debido a los temores de que los estudiantes chinos y los científicos que trabajan en “tecnologías de vanguardia” pueden terminar ayudando al Ejército Popular de Liberación de China.
La semana pasada, el Instituto de Tecnología de Massachusetts (MIT, por sus siglas en inglés) cortó nexos con el grupo de telecomunicaciones Huawei e inició un proceso de revisión de “riesgo elevado” para sus colaboraciones chinas.
Pedro Domingos, profesor de inteligencia artificial de la Universidad de Washington, señaló que el documento de Microsoft sobre el mapeo ambiental podría brindar una ayuda crucial a las autoridades que buscan monitorear a las personas.
“Supongamos que soy una agencia de inteligencia y tengo fotografías de personas de interés”, dijo Domingos. “Puedo usar el sistema para contar algo sobre el lugar en el que están y que no se dieron cuenta de que estaban revelando”.
La división de investigación de Microsoft en Pekín ha colaborado en al menos otros dos artículos con investigadores de la NUDT, incluyendo en el área de la lectura óptica, una forma en que las computadoras pueden entender el texto en línea.
“La comprensión de la lectura óptica puede no parecer directamente preocupante, pero podría usarse para la censura, lo que está en el interés del gobierno chino”, comentó Elsa Kania, experta en tecnología militar china y miembro del grupo de reflexión Center for a New American Security. “Ven el procesamiento del lenguaje natural como una forma de permitir la censura a escala”.
Los documentos subrayan los vínculos de mucho tiempo de Microsoft Research con la academia financiada por el ejército chino, incluyendo la operación de varios “clubes de tecnología” para estudiantes en universidades chinas que tienen vínculos militares como NUDT, la Universidad de Beihang y el Instituto de Tecnología de Harbin.
El Departamento de Comercio de EU está buscando comentarios públicos para ayudar a identificar las tecnologías emergentes que son esenciales para la seguridad nacional de Estados Unidos, porque pueden mejorar la recopilación de inteligencia, las armas de destrucción masiva, tener aplicaciones terroristas o proporcionar a EU una ventaja cualitativa militar o de inteligencia, de acuerdo con el bufete de abogados White & Case.
“Estos documentos están en el centro de una tormenta perfecta con los temas de máxima prioridad mientras EU rediseña su relación con China”, dijo Sacks.
“Hay una revisión masiva del régimen de exportación, y la tecnología emergente y base, particularmente la inteligencia artificial, es una categoría considerada bajo eso”, agregó. “Debido a que esta es una investigación académica abierta, la pregunta es hasta qué punto el gobierno chino está explotando la apertura...y una extensa historia de asociaciones conjuntas”.
Con información de Madhumita Murgia, Yuan Yang, Christian Shepherd, Richard Waters y Kiran Stacey.