Zuckerberg respalda la seguridad en la IA: laboratorios, con "fuerte incentivo para prevenir"

Mark Zuckerberg, director ejecutivo de Meta Platforms, dijo que la competencia y la responsabilidad civil ofrecen a las empresas de inteligencia artificial (IA) suficientes motivos para actuar de forma individual en materia de seguridad, lo que supone una ruptura con los llamamientos de los líderes de las principales empresas del sector para que se frene de forma coordinada el desarrollo de la IA.

Estos comentarios ponen de relieve una división entre los ejecutivos del sector y las autoridades estadunidenses sobre cómo responder a las advertencias de que la tecnología avanza más rápido de lo que las empresas pueden controlar, y algunos expertos del sector advierten de que supone una amenaza existencial para la humanidad.

Zuckerberg, en una publicación en la red social X ayer, dijo que cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizarlo.

Sus declaraciones se producen tres días después de que el director ejecutivo de Anthropic, Dario Amodei, instara a las empresas de IA a ralentizar el ritmo al que mejoran las capacidades de sus modelos, a raíz de las advertencias sobre riesgos existenciales realizadas por varios investigadores.

El director ejecutivo de la empresa competidora OpenAI, Sam Altman, y Elon Musk, de xAI, respaldaron públicamente el llamamiento de Amodei en cuestión de horas.

EU se opone a regulación

Sin embargo, el presidente Donald Trump restó importancia el lunes a las preocupaciones sobre el potencial de daño de la IA, afirmando que Estados Unidos ya cuenta con medidas de protección para esta tecnología y que a China le beneficiaría que sembraran dudas sobre el desarrollo de la inteligencia artificial. 

La opinión de que la regulación perjudicará la capacidad de las empresas estadunidenses para competir con sus homólogas chinas es compartida por ejecutivos del sector tecnológico, entre ellos Jensen Huang, director ejecutivo de Nvidia.

"La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes ya los modelos", dijo Zuckerberg. "Cualquier laboratorio que no se centre en la alineación se quedará atrás".

Zuckerberg también señaló ayer que los laboratorios tenían un fuerte incentivo para evitar que sus modelos causaran daños, ya que, de lo contrario, se enfrentarían a una responsabilidad "significativa". Puso como ejemplo que Meta retrasara el lanzamiento de su agente de IA Muse a principios de este año para reforzar su seguridad.

"No pedimos a los demás que lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto tanto para la gente como para nosotros", afirmó.

Evaluadores independientes: "La mejor práctica del sector"

Mientras que Amodei abogó por una ralentización a nivel sectorial de la automejora recursiva —la capacidad de la IA para mejorarse a sí misma—, Zuckerberg señaló que Meta ya había dedicado la "gran mayoría" de su capacidad de cálculo a crear productos que satisfagan las necesidades inmediatas de los usuarios, en lugar de dedicarse a desarrollar sistemas de IA que se mejoren a sí mismos.

Zuckerberg también señaló que Meta Superintelligence Labs —su división de IA— ya había contratado a evaluadores independientes en varias áreas, calificándolo de "la mejor práctica del sector" y afirmando que "otros laboratorios también pueden hacerlo".

El impulso de Zuckerberg para posicionar a Meta como un actor responsable en materia de seguridad de la IA se produce semanas después de que la empresa acordara pagar hasta 18 mil millones de dólares para resolver las demandas de varios estados de Estados Unidos que alegaban que había diseñado Facebook e Instagram para crear adicción en los niños, sin admitir ninguna infracción.

A la incertidumbre en torno a cualquier enfoque coordinado por parte de las empresas de IA se sumó el martes el presidente de la FTC, Andrew Ferguson, quien dijo que todo el mundo debería mostrarse "profundamente receloso" ante las empresas de IA que solicitan exenciones antimonopolio al tiempo que presionan a favor de nuevas regulaciones.

Aunque Ferguson no mencionó a Anthropic, Amodei solicitó la semana pasada una autorización antimonopolio para permitir que los competidores coordinaran una ralentización del ritmo de desarrollo de la IA debido a preocupaciones en materia de seguridad.

​MRA