Jefe de Microsoft pide que humanos gobiernen la IA y protejan las infraestructuras críticas

Brad Smith instó a prestar especial atención a la red eléctrica, los sistemas de abastecimiento de agua y otras infraestructuras críticas.

Microsoft. (Shutterstock)
Washington /

El presidente de Microsoft, Brad Smith, pidió que las personas que están detrás de la inteligencia artificial rindan cuentas por sus deficiencias e instó a los legisladores a garantizar que se pongan frenos de seguridad sobre la IA utilizada para controlar la red eléctrica, el suministro de agua y otras infraestructuras críticas.

Durante semanas, los legisladores de Washington han debatido sobre qué leyes aprobar para controlar la IA, incluso cuando empresas grandes y pequeñas se han apresurado a introducir en el mercado una IA cada vez más versátil.

En una entrada de blog publicada el jueves, Smith hizo hincapié en la necesidad de rendir cuentas.

"Se trata de la necesidad fundamental de garantizar que las máquinas sigan estando sujetas a la supervisión efectiva de las personas y que las personas que diseñan y manejan las máquinas sigan siendo responsables ante todos los demás. En resumen, debemos asegurarnos siempre de que la IA permanece bajo control humano", escribió.

Como parte de un plan de cinco puntos para la gobernanza pública de la IA, Smith instó a prestar especial atención a la red eléctrica, los sistemas de abastecimiento de agua y otras infraestructuras críticas. "Nuevas leyes requeriría a los operadores de estos sistemas a incorporar frenos de seguridad en el diseño de los sistemas de IA de alto riesgo", escribió en el blog.

Instó a utilizar un sistema del tipo Conozca a su cliente para que los desarrolladores de potentes modelos de IA controlen cómo se utiliza su tecnología e informen al público de los contenidos que crea la IA para que puedan identificar los videos falsos.

La semana pasada, Sam Altman, presidente ejecutivo de OpenAI, la startup que está detrás de ChatGPT, dijo a una comisión del Senado, en su primera comparecencia ante el Congreso, que el uso de la inteligencia artificial para interferir en la integridad de las elecciones es un "importante motivo de preocupación", y añadió que es necesario regularlo.

Altman, cuya OpenAI cuenta con el respaldo de Microsoft, también pidió cooperación mundial en materia de IA e incentivos para el cumplimiento de las normas de seguridad.

Algunas de las propuestas que se están estudiando en el Capitolio se centrarían en la IA que puede poner en peligro la vida o el sustento de las personas, como en medicina y finanzas. Otros abogan por normas que garanticen que la IA no se utiliza para discriminar o violar los derechos civiles.

Esta preocupación ha dado lugar a una serie de reuniones, como la visita este mes a la Casa Blanca de los presidente ejecutivos de OpenAI, Microsoft y Alphabet Inc, los que se reunieron con el mandatario Joe Biden.

AMP

  • Agencia Reuters
  • La Agencia Reuters es una de las principales agencias de noticias del mundo. Se destaca por su compromiso con la calidad y la precisión en la cobertura de noticias a nivel global.

LAS MÁS VISTAS

¿Ya tienes cuenta? Inicia sesión aquí.

Crea tu cuenta ¡GRATIS! para seguir leyendo

No te cuesta nada, únete al periodismo con carácter.

Hola, todavía no has validado tu correo electrónico

Para continuar leyendo da click en continuar.