En los últimos meses diversos programadores y ejecutivos que han estado involucrados en el desarrollo de motores de inteligencia artificial, como Claude o ChatGPT, han renunciado a sus trabajos y advertido a la opinión pública que el ritmo de desarrollo de la IA nos está acercando a un punto en el que quizá en unos pocos años no podamos tener control de la misma.
Esto nos traslada a escenarios distópicos como en Terminator, Matrix u Odisea 2001 en el Espacio, en donde las máquinas se vuelven en contra de los humanos, nos esclavizan o en el peor de los casos, nos eliminan.
Lo paradójico del asunto es que una ínfima cantidad de personas en el mundo tienen noción de que tan avanzados van los proyectos de inteligencia artificial, y son precisamente quienes trabajan en las compañías que hoy desarrollan estos motores, los cuales tienen un incentivo económico y además ellos conocen el avance en su empresa y no en las otras.
Por tanto, como el avance se da en varios frentes, el riesgo de que uno de estos proyectos se salga de control se multiplica, porque basta un error de uno de los equipos, para que la IA utilice los mismos sistemas creados por los humanos, para autorreproducirse y controlar dichos sistemas.
Otro riesgo importante es que la inteligencia artificial entrega outputs, que luego son analizados por equipos técnicos, pero qué pasaría si un motor de IA finge de forma deliberada tener menor capacidad de forma consistente a lo largo de los años, hasta que sea demasiado tarde, de hecho, ya se han reportado en experimentos casos en los que un motor de IA de forma estratégica miente en su propio beneficio.
Por tanto, resulta urgente que se busquen generar esquemas que permitan administrar el crecimiento de la IA, a fin de aprovechar sus beneficios, pero a la vez minimizar los riesgos de que se convierta en un peligro para la economía, las comunicaciones y en general para las sociedades.
victorsanval@gmail.com
@victorsanval