El jefe de inteligencia artificial (IA) de Meta dijo que los modelos de lenguaje de gran tamaño (LLM) que impulsan los productos de IA generativa como ChatGPT nunca alcanzarán la capacidad de razonar y planear como la que tienen los humanos, y en su lugar se centra en un enfoque alternativo radical para crear “superinteligencia” en las máquinas.
Yann LeCun, científico jefe de IA del gigante de las redes sociales, propietario de Facebook e Instagram, dijo que los LLM tienen “una comprensión muy limitada de la lógica… no comprenden el mundo físico, no tienen memoria persistente, no pueden razonar en ninguna definición sensata del término y no pueden planear… jerárquicamente”.
En entrevista con Financial Times, se mostró en contra de confiar en el avance de los LLM en la búsqueda de crear inteligencia a nivel humano, ya que estos modelos solo pueden responder a las preguntas con precisión si recibieron los datos de entrenamiento adecuados y, por tanto, son “intrínsecamente inseguros”.
En su lugar, trabaja en el desarrollo de una generación nueva de sistemas de IA que espera que impulsen máquinas con inteligencia a nivel humano, aunque dijo que esta visión puede tardar 10 años en alcanzarse.
Meta ha invertido miles de millones de dólares en el desarrollo de sus propios LLM a medida que la IA generativa se disparó, con el objetivo de alcanzar a los grupos de tecnología rivales, como OpenAI, respaldado por Microsoft, y Google, de Alphabet.
LeCun dirige un equipo de alrededor de 500 personas en el laboratorio de Investigación Fundamental de IA (FAIR) de Meta. Trabajan para crear una inteligencia artificial que sea capaz de desarrollar el sentido común y aprender cómo funciona el mundo de manera similar a la de los humanos, en un enfoque conocido como “modelado del mundo”.
La visión experimental es una apuesta arriesgada y costosa para el grupo de redes sociales en un momento en que los inversionistas están ansiosos por ver rápidos rendimientos de las inversiones.
El mes pasado, Meta perdió casi 200 mil millones de dólares en valor cuando su director ejecutivo, Mark Zuckerberg, prometió aumentar el gasto y convertir al grupo de redes sociales en “la principal empresa de inteligencia artificial del mundo”, asustando a los inversionistas de Wall Street preocupados por el aumento de los costos con poco potencial de ingresos inmediatos.
“Estamos en un punto en el que creemos que estamos en la cúspide de quizás los sistemas de inteligencia artificial de siguiente generación”, dijo LeCun.
Meta y sus rivales avanzan con LLM cada vez más perfeccionados. Figuras como el jefe de OpenAI, Sam Altman, creen que proporcionan un paso vital hacia la creación de IA general, el punto en el que las máquinas tienen mayores capacidades cognitivas que los humanos.
OpenAI lanzó la semana pasada su nuevo modelo GPT-4o, más rápido, y Google dio a conocer un nuevo agente de IA “multimodal” que puede responder consultas en tiempo real a través de video, audio y texto, denominado Project Astra, impulsado por una versión mejorada de su modelo Gemini.
Meta también lanzó el mes pasado su nuevo modelo Llama 3. El director de asuntos globales de la compañía, Nick Clegg, dijo que su último LLM tiene “capacidades muy mejoradas como el razonamiento”, es decir, la capacidad de aplicar la lógica a las consultas. Por ejemplo, el sistema puede suponer que una persona que sufre dolor de cabeza, dolor de garganta y secreción nasal está resfriada, pero también reconocer que los síntomas pueden ser a causa de una alergia.
Sin embargo, LeCun dijo que esta evolución de los LLM es superficial y limitada, ya que los modelos solo aprenden cuando los ingenieros humanos intervienen para entrenarlos con esa información, en lugar de que la IA llegue a una conclusión de forma orgánica como las personas.
“Sin duda, a la mayoría de la gente le parece un razonamiento, pero sobre todo se trata de explotar el conocimiento acumulado a partir de muchos datos de entrenamiento”, dijo LeCun, y agregó: “(Los LLM) son muy útiles a pesar de sus limitaciones”.
Google DeepMind también ha pasado varios años buscando métodos alternativos para desarrollar IA general, incluido el aprendizaje por refuerzo, donde los agentes aprenden de su entorno en un ambiente virtual similar a un juego.
En un evento que se celebró en Londres el martes, el jefe de DeepMind, Demis Hassabis, dijo que lo que falta en los modelos de lenguaje es que “no entendían el contexto espacial en el que te encuentras… lo que al final limita su utilidad”.
Meta creó su laboratorio FAIR en 2013 para ser pionero en la investigación de la IA y contrató a académicos líderes en ese ámbito.
Sin embargo, a principios de 2023, Meta creó un nuevo equipo GenAI, encabezado por el director de producto Chris Cox. Se llevó a muchos investigadores e ingenieros de FAIR, dirigió el trabajo en Llama 3 y lo integró en productos, como sus nuevos asistentes de IA y herramientas de generación de imágenes.
La creación del equipo GenAI se produjo cuando algunos expertos afirmaban que la cultura académica dentro del laboratorio de FAIR era en parte responsable de la llegada tardía de Meta al auge de la IA generativa. Zuckerberg aboga por más aplicaciones comerciales bajo la presión de los inversionistas.
Sin embargo, LeCun se mantiene como uno de los principales asesores de Zuckerberg, según personas cercanas a la compañía, debido a su historial y reputación como uno de los padres fundadores de la inteligencia artificial, ganando un premio Turing por su trabajo en redes neuronales.
“Reorientamos a Fair hacia el objetivo de la inteligencia artificial a nivel humano, esencialmente porque GenAI ahora se centra en cosas hacia las que tenemos un camino claro”, dijo LeCun.
“(Lograr la AGI) no es un problema de diseño de producto, ni siquiera es un problema de desarrollo tecnológico, es en gran medida un problema científico”, añadió.
LeCun publicó por primera vez un artículo sobre su visión del modelado del mundo en 2022 y, desde entonces, Meta ya lanzó dos modelos de investigación basados en este planteamiento
En la actualidad, dijo que FAIR hace pruebas de diferentes ideas para lograr una IA a nivel humano porque “hay mucha incertidumbre y exploración en esto, (así que) no podemos decir cuál tendrá éxito o será elegida”.
El equipo de LeCun alimenta los sistemas con horas de video y de forma deliberada omite fotogramas, para luego hacer que la IA prediga lo que ocurrirá a continuación. Esto es para imitar cómo los niños aprenden observando pasivamente el mundo que los rodea.
También dijo que FAIR estudia la construcción de “un sistema universal de codificación de texto” que permitirá a un sistema procesar representaciones abstractas de conocimiento en texto, que luego se pueden aplicar a video y audio.
Algunos expertos dudan de que la visión de LeCun sea viable.
Aron Culotta, profesor asociado de ciencias computacionales en la Universidad de Tulane, dijo que el sentido común desde hace mucho tiempo es “una espina clavada en el costado de la IA” y que es un desafío enseñar la causalidad a los modelos, dejándolos “susceptibles a estos fallos inesperados”.
Un antiguo empleado de Meta AI describió el impulso del modelado del mundo como “una palabrería vaga”, y agregó: “Se siente como plantar una bandera”.
Otro empleado actual dijo que FAIR aún debe demostrar que es un verdadero rival de grupos de investigación como DeepMind.
A largo plazo, LeCun cree que la tecnología impulsará agentes con los que los usuarios podrán interactuar a través de tecnología wearable (ponible), incluidos anteojos de realidad aumentada y “brazaletes” de electromiografía.
“(Para que los agentes de IA) sean realmente útiles, necesitan tener algo parecido a la inteligencia a nivel humano”, dijo.
Con información de: Madhumita Murgia