Facebook desconectó IA que había creado su propio idioma

Cuando los investigadores notaron que el sistema de chatbots había creado su propio idioma y que no podían entenderlo, tuvieron que desconectarlo para reprogramarlo. 

Ciudad de México /

Uno de los temores de Elon Musk se materializó días después de que el fundador de Tesla declarara que Mark Zuckerberg tiene un “entendimiento limitado de la inteligencia artificial” (IA): un grupo de chatbots de Facebook tuvo que ser desactivado pues habían creado su propio lenguaje.

De acuerdo con un reporte del sitio Tech Times, los investigadores del grupo de IA de Facebook notaron que varios chatbots comenzaban a interactuar entre ellos a tal grado de utilizar un lenguaje no comprensible para los humanos.

TE RECOMENDAMOS: Inteligencia artificial aprende el prejuicio de los humanos

Como los bots estaban programados para interactuar con humanos y tomar decisiones, tenían cargados diferentes idiomas, por lo que conforme conversaban entre sí, unían partes de diferentes lenguajes para crear uno que fuera más fácil y rápido para usar entre ellos.

Al darse cuenta, los investigadores decidieron desconectar el sistema para reprogramarlo y forzar a los bots a hablar entre sí sólo en inglés. De lo contrario, los investigadores perderían el control de los bots.

El extraño comportamiento del sistema inteligente llamó la atención de los investigadores cuando la IA no apagó las computadoras a nivel mundial que tenía que haber apagado y empezó a utilizar el lenguaje que había creado.

I can can I I everything else” (Yo puedo puedo yo yo todo lo demás) y “balls have zero to me to me to me to me to me to me to me to me to" (pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para), es parte de una de las conversaciones entre los bots, reportó el sitio.

Los bots o “agentes de diálogos” como se les conoce en el laboratorio de investigación de IA de Facebook, llegaron a este punto gracias a que se les permitió usar los algoritmos libremente para mejorar sus habilidades de conversación.

Con el tiempo, se convirtieron en buenos negociadores a tal grado que eran capaces de mostrar interés en algo para usarlo posteriormente en la negociación y sacrificarlo.

Pese a ser un gran avance para la IA, deja entre ver a qué se refieren Musk y Stephen Hawking cuado hablan de los temores de este tipo de tecnología. Hay que recordar que hace poco más de un año, Microsoft tuvo que desconectar a un chatbot con IA que puso a prueba luego de que hiciera comentarios racistas.

Ni Zuckerberg ni Facebook han hecho una declaración al respecto, pero seguramente están bastante asustados con lo que crearon.


mrf

  • Milenio Digital
  • digital@milenio.com
  • Noticias, análisis, opinión, cultura, deportes y entretenimiento en México y el mundo.

LAS MÁS VISTAS