La Inteligencia Artificial Generativa (IAG) irrumpe y replantea la esencia misma de la universidad, por lo que la UNAM no puede quedar fuera de la discusión de su uso ético, el desarrollo de la soberanía tecnológica y la protección de los derechos de autor en la IA, advirtió el titular del Consejo Coordinador de Inteligencia Artificial (Ccoia) de la máxima casa de estudios, Pablo Pruneda Gross.
Para ello, dijo, se estableció el Ccoia, una estrategia institucional integral frente al avance de la IA. Con ésta, se buscará articular los esfuerzos que ya realizan distintas entidades universitarias en este terreno, evitar duplicidades y fortalecer una visión multidisciplinaria que permita a la UNAM asumir un papel de liderazgo nacional y regional en la IA.
En entrevista con MILENIO, el abogado que hasta el lunes 18 de mayo se desempeñaba como coordinador de la Línea de Investigación Derecho e Inteligencia Artificial (LIDIA) en el Instituto de Investigaciones Jurídicas de la UNAM, adelantó que entre los principales objetivos del nuevo consejo estará la organización de un gran foro universitario sobre IA hacia finales de 2026, en el marco de los 475 años de la universidad.
El propósito, añadió, será reunir perspectivas académicas, científicas, humanísticas y culturales para construir un documento orientador que sirva de base para definir lineamientos institucionales en temas como educación, investigación científica, difusión cultural y ética en el uso de la IA.
—¿Cuáles serán las primeras acciones del Ccoia?—
“Lo primero es ese acercamiento entre todas las áreas del conocimiento que convergen en la universidad y que ya están haciendo temas de Inteligencia Artificial. Necesitamos saber qué estamos haciendo todas las áreas de la universidad respecto a esta tecnología, ese es el primer gran reto.
“Segundo, tenemos previsto para finales de este año, hacer un gran foro de IA en el marco de los 475 años de nuestra universidad, en el que se aglutinen todas las visiones y preocupaciones que este tema invita a discutir en las diferentes áreas del conocimiento para poder emitir un documento que sirva como una guía, como un lineamiento. Aquel será un mecanismo de respaldo para el establecimiento de las normas que como institución debemos asumir en la definición del nuevo modelo educativo, en el aprovechamiento de la IA para los efectos de la investigación científica, para la difusión cultural.
—¿Se trata de poner orden a las iniciativas universitarias en materia de IA?—
“Yo no sé si la expresión es 'poner orden', porque la misión del consejo coordinador es articular. Entonces desde una perspectiva muy respetuosa, por ejemplo, de la libertad de cátedra, de la libertad para definir los proyectos académicos que cada investigadora o investigador está desarrollando, bajo ese respeto debe verse qué están haciendo.
“Necesitamos una entidad articuladora que pueda detectar repeticiones de esfuerzos para poder hacer sinergias y, entonces, darle al final al país, que es el último receptor del objetivo de los esfuerzos universitarios, una mejor respuesta institucional. El consejo coordinador es el órgano que le va a permitir a la universidad a asumir una posición de liderazgo, que ya tiene y sigue generando, pero de manera mucho más coordinada”.
—¿Cómo abordará el consejo el uso ético de la IA entre académicos y estudiantes?—
“Cómo damos mejores clases, cómo impartimos mejor el conocimiento a partir del uso de herramientas de IA, cómo evaluamos adecuadamente al alumnado la parte didáctica, la parte del aprovechamiento de la herramienta para el estudio para la presentación de trabajos. Todo esto tiene una implicación, por supuesto, ética, pero para la universidad la preocupación trasciende incluso más allá del uso ético de la herramienta, porque nos lleva a cuestionar el objeto mismo de la facultad de la universidad, o sea, las finalidades que dieron lugar a la construcción de la institución.
“Tienen que ver con la con el cumplimiento de la promesa de formación al alumnado y entonces, esta discusión nos tiene que abrir a hacernos las preguntas, quizá fundacionales, ya no sólo de la UNAM, sino de la universidad como sistema educativo. Lo que necesitamos hacer a través de Ccoia es definir el reto que impone en Inteligencia Artificial, para por ejemplo, la disrupción laboral, que desde sus dos perspectivas, la más optimista nos dice 'tienes que aprovechar las herramientas para poder construirte y potenciarte en tus habilidades y tus capacidades'.
“Desde la perspectiva educativa esta es una prioridad para el rector, la Inteligencia Artificial que ya estamos usando maestras y maestros, alumnas y alumnos, pues sin duda nos cambia la forma de dar clase, la manera de recibir y de estudiar, y por supuesto, la forma de evaluar. Pero más allá de eso, la universidad tiene que hacerse las preguntas fundacionales del plan de estudios”.
—¿Analizará Ccoia temas como el plagio?—
“Por supuesto, desde esa perspectiva la universidad tiene que tomar una posición ética respecto del uso de la IA. En ese sentido, la UNAM ya ha hecho esfuerzos importantes que están materializados en códigos y lineamientos para la investigación y la educación; pero lo que podríamos hacer es ampliar esa discusión para que la hagamos nuestra todas y todos los universitarios.
“El cuestionamiento del alumnado está en cómo puedo usar esta herramienta para darle el mejor uso y para que sea uno válido, que le sirva en su proceso cognitivo y en su capacidad de crecer y de enriquecerse intelectualmente.
“Desde esa perspectiva, el Ccoia en su propio acuerdo rectoral insiste que debemos encontrar los mecanismos éticos y los lineamientos, la construcción de normas sean acordes a la realidad que la Inteligencia Artificial nos impone. A partir de la propia inquietud de los estudiantes, investigadores y de los profesores, que sean quienes realicen el cuestionamiento de hasta qué punto puedo hacer uso de la herramienta, dónde sí, dónde no, cómo sí y cómo no. Es un dilema ético que tenemos que resolver como institución”.
—Tiene la experiencia de LIDIA, ¿con qué aportes llega al consejo?—
“Lo que aprendimos en estos seis años de existencia de LIDIA fue que debemos subir a todas las voces del Derecho, porque a todas les interesa el impacto de la Inteligencia Artificial. Segundo, las voces jurídicas no son suficientes para abordar un problema tan complejo.
“Institucionalmente encontramos sinergias muy valiosas, por lo que hicimos un seminario permanente, donde sentábamos a los técnicos, expertos en el funcionamiento de la herramienta y a los juristas, los cuales tenían la preocupación humanística. También invitamos académicas y académicos de diferentes formaciones: químicos, filósofos, sociólogos, economistas, gente de muchas áreas del conocimiento que aportan su visión respecto diferentes problemas que se tienen que revisar desde la perspectiva jurídica, y el resultado ha sido sumamente enriquecedor y favorable.
“Si eso se hizo desde una perspectiva limitada a la preocupación jurídica, lo que podemos hacer ahora desde un Ccoia que nos abre todos los accesos al conocimiento universitario para empezar a estudiar y revisar todas las perspectivas de manera sinérgica y articulada. Entonces vamos a aprovechar todos los estudios y foros que se han estado haciendo en IA, pero ahora sumados a una visión institucional en la que podamos enriquecernos unos con otros”.
—¿El Consejo entrará el debate de derechos de autor en la IA?—
“El debate en materia de derechos de autor es enorme, y hemos ido aprendiendo el camino porque la IA ha ido evolucionando. Los modelos de la tecnología más modernos se nutren de los datos, y entonces, hay una perspectiva de una problemática en la que se ha controvertido el acceso a esos datos para entrenar modelos. En inglés le llaman 'input', y el debate es: ¿puede un modelo usar obras a las que accedió legítimamente para entrenar modelos que después le permitan explotar o sacar beneficio económico en su salida?, es decir, ¿estos insumos con los que se entrena un modelo después sacan un resultado que es una obra escrita, visual o audiovisual?
“Entonces ahí hay demandas por ejemplo, en Estados Unidos, donde el New York Times dijo: 'usaron el acceso a mis datos, a mis publicaciones guardadas desde 1900 para entrenar un modelo', por ello demandó a OpenAI y a las empresas grandes que hacen este tipo de modelos. Ahí hay un debate que todavía no está resuelto, está en un litigio”.
—¿Entra la universidad a tiempo para el debate del uso de la IA?—
“Creo que entra cuando tiene que hacerlo. El debate existe y la evolución de la tecnología ha ido modificándolo. Actualmente, ya tenemos los dilemas más claros que nunca y, por supuesto, sujetos a lo que sigue evolucionando. Me parece que ahora la universidad tiene no sólo la capacidad, sino la pertinencia de asumir el tema en el momento adecuado, y ya lo veremos conforme México sirva a su país, a la región, a partir del trabajo que vamos a hacer consolidado y articulado entre todos. Con el mando de este rector (Leonardo Lomelí), estoy seguro que vamos a demostrar, primero, ese liderazgo que siempre hemos tenido y, segundo, estaremos a la altura de las expectativas y del reto que nos impone la tecnología más retadora en la historia de la humanidad, pero a partir de la construcción de sinergias institucionales como nunca antes en nuestra historia”.
MD