Esta semana encontramos en Singularity Hub, un artículo muy interesante escrito por Connie Loizos, “Una ruta para la IA, en caso de que alguno quiera escuchar”.
Podemos coincidir o no, pero lo que sí es un hecho, es, que el debate respecto a que la inteligencia artificial necesite o no, reglas claras antes de que sea demasiado tarde, sigue más vigente que nunca.
En la historia de la tecnología, casi siempre ocurre lo mismo; primero llega el entusiasmo, luego la adopción masiva, y sólo después aparece la regulación.
Con la inteligencia artificial, sin embargo, alterar este orden podría resultar fatal.
La premisa es simple y profundamente incómoda, la humanidad está construyendo sistemas capaces de superar su propia capacidad de control institucional, no en un futuro lejano, sino más bien hoy, y en el corto plazo.
Durante siglos, cada gran tecnología amplió el poder humano, la imprenta multiplicó el conocimiento, la electricidad expandió la productividad y la informática aceleró la economía.
Pero la inteligencia artificial introduce algo radicalmente distinto; máquinas que no sólo ejecutan instrucciones, sino que pueden generar decisiones, estrategias y conocimiento nuevo. Eso cambia las reglas del juego.
Hoy se está librando una carrera global por construir sistemas cada vez más poderosos, impulsada por gobiernos, corporaciones y capital de riesgo.
En ese entorno, la presión por avanzar, suele superar a la prudencia necesaria para evaluar riesgos sistémicos.
Los autores proponen una idea que debería parecer obvia, pero que hoy resulta casi revolucionaria; La inteligencia artificial debe diseñarse para amplificar a los humanos, no para reemplazarlos.
Para lograrlo sugieren principios claros, mantener a los humanos en el control de decisiones críticas, evitar la concentración extrema del poder tecnológico, prohibir arquitecturas capaces de autorreplicarse o evolucionar sin supervisión y exigir responsabilidad legal directa a quienes desarrollan estos sistemas.
No es un llamado al miedo, es un recordatorio histórico.
Cada vez que la humanidad ha liberado una tecnología poderosa sin construir instituciones para gobernarla, (desde la energía nuclear hasta las redes sociales), las consecuencias y regulaciones, han llegado después, y a menudo demasiado tarde.
La pregunta no es si la IA va a cambiar el mundo; eso ya es inevitable.
La pregunta es: si el mundo seguirá siendo gobernado por humanos cuando ese cambio ocurra.