Jacob Coxon lo advirtió en los siguientes términos: “Hoy he dimitido de Anthropic. Durante los últimos tres años he trabajado en investigación sobre preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas está actuando de manera responsable. Están compitiendo a toda velocidad hacia una inteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”.
La declaración puso los reflectores sobre él, porque al post le acompañó una serie de declaraciones en varios noticiarios donde afirmó que si la inteligencia artificial (IA) sigue desarrollándose al mismo ritmo “podría acabar con la humanidad antes de concluir esta década. […] Suena irreal, pero es aterradoramente real”.
La apreciación de Coxon no tiene que ver con la mala leche de la IA o animosidad de los robots que forman parte de nuestra vida cotidiana, sino más bien con el ritmo del progreso de los desarrollos de IA. Hace apenas un par de años, ésta era vista como un apoyo, pero hoy, como refiere Coxon, las superinteligencias mejoradas cruzaron una línea que antes separaba la realidad de la fantasía. Hoy IA toma muchas decisiones con independencia de las órdenes humanas, con consecuencias muy cuestionables.
A esta peculiar forma de autonomía androide se suma la feroz competencia empresarial por un mercado cada vez más demandante y con capacidad solvente, donde los muchos vacíos legales representan una oportunidad dorada para el desarrollo de nuevas fantasías con resultados funestos.
Visto lo visto, si los robots y algunas estructuras de IA toman ciertas decisiones, ¿significa que estamos ante un escenario orwelliano, donde estos bichos tecnológicos nos desaparecerán de la tierra el día que les dé la gana? ¿La advertencia de Coxon es el correlato de las distorsiones del progreso tecnológico? ¿Tiene algo que ver y decir la ética en este cuento?
André Comte-Sponville, en un libro superinteresante al que tituló El capitalismo, ¿es moral?, refiere que el avance y progreso de las sociedades se encuentra mediado por cuatro tipos de órdenes del quehacer humano: el tecnocientífico, el jurídico-político, el moral y el ético, denominado también el orden del amor.
En buena medida, las controversias en torno a la moralidad del avance científico se desprenden de nuestro desconocimiento en torno a la lógica interna que pone en marcha estos cuatro órdenes.
De la confusión de su lógica interna y traslapes que se dan entre ellos hablaré en mi próxima entrega.