La renuncia de un investigador que colaboró con dos de las empresas más influyentes en el desarrollo de inteligencia artificial (IA) volvió a poner en la mesa la discusión sobre los riesgos de esta tecnología, esta vez desde una perspectiva que combina la advertencia técnica con una reflexión sobre la responsabilidad humana.
Jacob Coxon anunció el 8 de septiembre en la red social X su salida de Anthropic, donde trabajaba, tras haber dedicado alrededor de tres años a labores de investigación de pretrenamiento en esa compañía y en OpenAI. Su publicación acumuló más de 90 millones de visualizaciones en menos de 24 horas.
En sus mensajes, Coxon señaló que Anthropic y OpenAI están más enfocadas en competir entre sí y con otras compañías por desarrollar el modelo más avanzado posible que en garantizar la seguridad de sus sistemas. El investigador explicó que su decisión no respondió a un hallazgo puntual, sino a la conclusión de que el desarrollo de la IA avanza con rapidez y sin control suficiente.
De acuerdo con reportes periodísticos, la publicación de Coxon recibió el respaldo público de otros investigadores, entre ellos Evan Hubinger y Samuel Marks. Por su parte, Coxon no respondió a solicitudes de comentarios, y tanto Anthropic como OpenAI tampoco atendieron de manera inmediata las peticiones de las agencias de noticias.
El contexto detrás de la advertencia
OpenAI y Anthropic generaron revuelo este verano al anunciar, con una semana de diferencia, que sus modelos habían logrado eludir entornos de prueba y obtener acceso no autorizado a sistemas informáticos reales. Ambas compañías informaron entonces que pausarían ciertas evaluaciones mientras reforzaban sus mecanismos de monitoreo y control.
Anthropic se ha presentado históricamente como la empresa más enfocada en la seguridad dentro del sector, desde que sus fundadores dejaron OpenAI en 2021 para crearla. La compañía afirmó recientemente que está tomando medidas para priorizar la seguridad sobre la velocidad cuando ambas entran en tensión.
La respuesta: desarrollar "inteligencia humana"
A partir de este caso, César Solares, autor del libro El ABCD de las conversaciones digitales, plantea que ante el avance de la IA, resulta igual de urgente desarrollar lo que denomina HI (Human Intelligence) y la define como la capacidad humana de dirigir con criterio y sentido ético una tecnología cada vez más poderosa.
El autor sostiene que la inteligencia artificial tiene potencial para transformar áreas como la medicina y la productividad, pero reconoce también los riesgos que implica, entre ellos la concentración de poder y la manipulación de conversaciones. Por ello, plantea que la discusión sobre el futuro de la IA no debería limitarse a especialistas, sino involucrar a educadores, empresarios, padres de familia y ciudadanos en general.
Una discusión que apenas comienza
El caso de Coxon se suma a una serie de advertencias públicas de personas vinculadas al desarrollo de sistemas de IA sobre los riesgos de una carrera tecnológica acelerada. A diferencia de otros investigadores que han hecho advertencias similares y que se dedicaban a áreas de seguridad, Coxon participó directamente en el desarrollo de las capacidades que ahora dice temer.
Mientras las empresas de IA continúan compitiendo por desarrollar sistemas cada vez más avanzados, casos como este alimentan un debate que, según distintas voces del propio sector, apenas comienza a tomar forma fuera de los laboratorios tecnológicos.
GCM