A principios de este año, el autor Steven Rosenbaum recibió una llamada que puso su mundo de cabeza: el libro al que había dedicado tres años de investigación y escritura contenía citas fabricadas por herramientas de inteligencia artificial (IA).
“Cuando supe que había imprecisiones en The Future of the Truth (El futuro de la verdad), mi primera reacción fue: ¡es imposible!”, declaró Rosenbaum al Financial Times. “Había pasado por un proceso de publicación tradicional con múltiples rondas de edición y revisión”.
La ironía era evidente. Su obra analiza el futuro de la verdad y la tecnología, y aunque Rosenbaum fue transparente sobre el uso de IA durante la investigación y organización del material, asegura que solo la empleó para resumir documentos y entrevistas.
“Lo que no me di cuenta fue que, en algunos casos, esos resúmenes se transformaban en lo que parecían citas textuales”, explica. “El peligro no es que la IA escriba mala prosa, sino que escriba prosa convincente basada en hechos que nunca existieron”.
El rápido avance de la IA está transformando la industria editorial, valorada en 140 mil millones de dólares (mdd), desde la forma en que se encargan y editan los libros hasta cómo se distribuyen. El uso no autorizado de obras protegidas para entrenar modelos de IA se ha convertido en uno de los mayores conflictos del sector.
La semana pasada, Anthropic acordó pagar mil 500 mdd a autores y editoriales tras utilizar más de 480 mil libros para entrenar sus modelos sin autorización ni compensación.
Pero la preocupación va más allá de los derechos de autor. Cada vez inquieta más el uso de la IA en la creación literaria y la posibilidad de que sustituya parte del trabajo de los autores, en una industria que ha operado prácticamente igual durante siglos.
El sector está dividido. Mientras algunas editoriales y escritores rechazan cualquier uso de estas herramientas, otros las consideran una oportunidad que ya está modificando la forma de escribir, leer y escuchar libros.
“Cada semana vemos un libro que sospechamos que involucra IA”, admite un alto ejecutivo editorial. “Es muy difícil distinguir entre una escritura genérica y una generada por IA. No sabemos cuánto estamos publicando sin darnos cuenta”.
Los agentes literarios también reportan una avalancha de manuscritos creados con IA. “Es evidente cuando llegan”, afirma Christy Fletcher, codirectora de UTA Publishing, agencia que representa a autores como Daniel Mason, Eric Ries y Maggie O’Farrell. “Ahora uno tiene que preguntarse: ¿esto parece escrito por Claude?”.
el dato...140 mil mdd es el valor del mercado
De la industria editorial del mundo.
En marzo, la editorial francesa Hachette retiró de las librerías británicas la novela de terror Shy Girl, de Mia Ballard, y canceló su lanzamiento en Estados Unidos (EU) tras acusaciones de que había sido escrita parcialmente con IA. La autora lo niega.
La novela había tenido éxito como autopublicación antes de ser adquirida por Hachette. “A todo el mundo le gustó”, recuerda un ejecutivo editorial. “Después de Shy Girl, todos los editores están nerviosos”.
Aun así, el libro mantiene una calificación superior a tres estrellas en Goodreads. Para un autor que habló bajo condición de anonimato, ahí reside el mayor temor de la industria: “Lo que realmente nos preocupa es que al público no le importe”.
“Las alucinaciones no son errores de escritura”
Ejecutivos de otras editoriales consideran que es solo cuestión de tiempo antes de enfrentar un escándalo similar al de Rosenbaum o Ballard, por lo que buscan establecer normas claras mientras la tecnología sigue avanzando.
“La IA se infiltró en absolutamente todos los rincones del software”, afirma Madeline McIntosh, cofundadora y CEO de Authors Equity y exdirectora de Penguin Random House en EU.
“A menos que digas ‘solo puedes usar lápiz y papel’, lo cierto es que estás interactuando con la IA, y la herramienta está influyendo en tu trabajo”, añade.
En términos generales, las directrices de las editoriales permiten utilizar la IA para apoyar el proceso creativo —investigación, verificación de datos e incluso, en algunos casos, edición y perfeccionamiento del texto—, pero no para generar el contenido de un libro.
El alcance de ese apoyo, sin embargo, varía según la editorial, el editor o el agente. “Hay muchos matices en este punto”, señala McIntosh.
Fletcher describe un “cisma” entre la ficción, donde existe “más dogmatismo” sobre el uso de la IA, y la no ficción, donde su utilidad para la investigación suele ser mejor valorada.
“¿Qué nivel de uso de la IA es aceptable?”, plantea otro ejecutivo del sector. “¿Qué constituye investigación? ¿Qué significa que un libro esté ‘escrito con IA’? ¿Qué porcentaje del texto tendría que generar? Es un terreno resbaladizo”.
Las diferencias de criterio también alcanzan a los autores. “Tenemos 12 mil 500 miembros y cada uno tendrá límites ligeramente distintos”, comenta Anna Ganley, directora ejecutiva de la Society of Authors del Reino Unido.
Ante este panorama, las editoriales han comenzado a incorporar cláusulas sobre IA en sus contratos. Pan Macmillan exige que los autores garanticen que la obra es original y de autoría humana, requisito que también protege los derechos de autor.
“Si un autor o ilustrador desea experimentar con nuevas herramientas de IA, estamos totalmente abiertos a dialogar sobre cómo hacerlo de forma responsable”, señala un portavoz de la editorial.
Ese uso puede incluir investigación, verificación de datos, corrección gramatical, pulido del texto, resumen de fuentes o agilización del proceso de escritura. Sin embargo, advierte, “el criterio, la voz y la responsabilidad intelectual del autor deben seguir siendo el eje central del libro”.
La editorial también proporciona directrices a sus editores para detectar un posible uso indebido de IA y asegura que, hasta ahora, ningún manuscrito ha reprobado sus revisiones.
el dato...6 por ciento cayeron las ventas de libros de no ficción
En Reino Unido durante el último año.
Bloomsbury mantiene una postura similar. Aunque prohíbe el uso de IA generativa en sus publicaciones, reconoce en su política para autores que esta “puede ofrecer soluciones útiles en algunos contextos, especialmente cuando se utiliza para apoyar, en lugar de reemplazar, la creatividad humana”.
Otros sellos son mucho más tajantes. Microcosm Publishing, editorial y distribuidora independiente con sede en Portland, resume su política en una frase: “No, gracias… ni siquiera para corregir ortografía y gramática, ajustar el nivel de lectura, mantener la continuidad, verificar datos o añadir citas. Estas aplicaciones harán mucho más de lo que se les pida”.
Rosenbaum comparte esa preocupación por la tendencia de la IA a extralimitarse. “Las alucinaciones no son errores de escritura”, afirma en referencia a las respuestas inventadas que generan los modelos de lenguaje.
“Son invenciones con apariencia de autoridad. Eso representa un reto editorial completamente distinto y deja en manos de autores y editores la responsabilidad de detectar esas alucinaciones a posteriori”.
El círculo vicioso de la IA
Muchos en la industria creen poder detectar la escritura generada por IA. Sin embargo, los ejecutivos admiten que, con una edición cuidadosa, un escritor experimentado aún podría hacer pasar la prosa de la IA como propia.
Un estilo deficiente por sí solo no basta para identificar el uso de IA. “Muchos libros están mal escritos”, comenta un ejecutivo, quien añade que las pequeñas imperfecciones involuntarias y la ruptura deliberada de las reglas son lo que permite percibir la humanidad detrás de un texto.
el dato...Más de 4 millones de libros con ISBN se registraron
En EU en un solo año, impulsados por el auge de la autopublicación.
Algunos incluso temen un círculo vicioso: que los lectores más jóvenes se acostumbren tanto a textos generados por IA, con todos sus defectos, que terminen escribiendo de la misma manera.
Las editoriales ya han probado herramientas para detectar IA, pero pocas confían plenamente en ellas. “La amenaza se percibe como suficiente por ahora y las herramientas no son muy buenas”, afirma el CEO de una editorial.
El Gremio de Autores de EU advirtió que cancelar un contrato o retirar un libro de la venta basándose únicamente en acusaciones o en detectores de IA constituiría un incumplimiento contractual grave.
Ante la dificultad de establecer y hacer cumplir reglas, la transparencia se ha convertido en un elemento central. “En nuestro contrato, tanto nosotros como el autor debemos informarnos mutuamente sobre el uso de IA”, explica McIntosh, de Authors Equity.
Si un escritor utiliza IA para apoyar la investigación de un libro de no ficción, añade, “no hay problema, pero debemos aplicar una capa adicional de verificación humana para asegurarnos de que los datos sean correctos”.
el dato...Tres años dedicó Steven Rosenbaum a investigar
Y escribir un libro que terminó afectado por citas generadas por IA.
Los autores también buscan garantías sobre cómo las editoriales emplean la IA. Según Fletcher, de UTA, a sus clientes les preocupa especialmente que “la edición y el diseño de la portada no utilicen IA”. “Les importa mucho que no se delegue todo a un software”, añade.
Pan Macmillan permite que sus editores usen herramientas seguras de IA para resumir manuscritos, organizar información sobre personajes o extraer citas para presentar un libro, pero prohíbe utilizarlas para editar textos o decidir qué obras publicar. Otras editoriales también recurren a la IA en ventas y mercadotecnia, por ejemplo para optimizar metadatos o agilizar procesos de impresión y almacenamiento.
Bonnier Books, por su parte, ha reunido a autores y agentes para debatir el impacto de la IA. “La única manera de superar la mayor transición que ha vivido el sector en los últimos tiempos es mediante el diálogo abierto”, afirma Sarah Posner, directora de innovación editorial de la filial británica.
Chatbots contra libros
Los desafíos de la IA van más allá de determinar quién escribió un libro. La tecnología también está cambiando lo que compran los lectores y la forma en que operan las editoriales.
Las ventas de libros prácticos de no ficción —como autoayuda, cocina, biografía y finanzas— se resienten porque cada vez más personas recurren a los chatbots en busca de respuestas inmediatas.
En Reino Unido, las ventas de no ficción cayeron 6 por ciento el año pasado, según Nielsen. Aunque influyen otros factores, como la popularidad de los podcasts y YouTube, las editoriales ven una relación directa con el auge de los chatbots.
“La gente simplemente le preguntará a ChatGPT: ‘Dime todo lo que necesito saber sobre Marie Kondo’”, resume un alto ejecutivo. Otro añade que géneros como historia y crimen real, con gran audiencia masculina, también enfrentan ese fenómeno: “A los hombres les encanta ChatGPT”.
Esto ha reforzado la demanda de autores con voces propias, como Patrick Radden Keefe. “Donde vemos fortaleza es en personas con voces singulares y fuertes, y los lectores se identifican con ellas”, dice Fletcher.
En la ficción, algunos autores ya experimentan con la IA. Nilanjana Roy sostiene que “es inútil intentar mantener a raya la literatura con IA” y recuerda que escritores como Vauhini Vara y Rie Kudan ya han utilizado modelos de lenguaje para crear textos innovadores.
el dato...La certificación “Autoría Humana” garantiza que la IA
Solo se utilizó para tareas menores, como corrección ortográfica oGramatical.
Sin embargo, advierte que, si los manuscritos generados por IA terminan saturando a agentes y editoriales, podría surgir un escenario paradójico: asistentes de IA revisando manuscritos escritos por otras IA.
El impacto es aún más evidente en la autopublicación. El año pasado se registraron más de 4 millones de libros nuevos con ISBN en EU, un aumento de un tercio respecto al año anterior. Más de cuatro quintas partes fueron autopublicados y, según ejecutivos del sector, muchos pueden producirse con herramientas de IA casi sin esfuerzo creativo.
Kindle Direct Publishing, la plataforma de autopublicación de Amazon, pide a los autores informar cuando el contenido ha sido generado íntegramente por IA, aunque no exige revelar el uso de IA como herramienta de apoyo. Amazon aseguró al Financial Times que sigue reforzando sus mecanismos para detectar contenido que incumpla sus políticas y recordó que limita a 10 el número de libros que un autor puede publicar por formato cada semana.
La IA también amenaza el negocio de los audiolibros. Según un alto ejecutivo, las voces sintéticas ya pueden generar narraciones casi instantáneas para redes sociales e incluso imitar con gran precisión la voz de autores reconocidos, quienes tradicionalmente eran los encargados de narrar sus propias obras.
La autoría humana
La preocupación por el impacto de la IA en la industria editorial no es unánime. Algunos ejecutivos creen que, tras una primera oleada de libros mediocres generados por IA, crecerá la demanda de obras escritas por personas.
“Los libros no van a desaparecer”, afirma Posner, de Bonnier Books. “Al contrario, veo que la gente busca cada vez más experiencias humanas reales”.
La industria ya ha superado otras disrupciones, como la autoedición y los libros electrónicos, que en su momento parecían amenazas existenciales. Tom Weldon, CEO de Penguin Random House UK, sostiene que los libros han demostrado una notable resiliencia porque “ofrecen algo único”.
“La IA puede ser una herramienta valiosa para los creadores, pero nunca debería sustituir la imaginación, el criterio ni la experiencia de un autor”, añade.
Para McIntosh, de Authors Equity, el reto ahora es encontrar “la obra excepcional, no el mínimo común denominador”, precisamente porque eso último es lo que la IA hace mejor.
Esa “huella de humanidad” es la que las editoriales del Reino Unido y EU buscan destacar mediante iniciativas para etiquetar con claridad si una obra fue escrita por una persona o contó con apoyo de IA.
“La transparencia es clave”, dice Ganley, de la Sociedad de Autores. “Ya sea literatura creada por humanos, con ayuda de IA o generada por IA, el consumidor debe saberlo para decidir qué quiere comprar”.
La Sociedad de Autores y el Gremio de Autores de EU ya cuentan con certificaciones que permiten identificar obras de autoría humana. Los escritores pueden registrar sus libros para incluir el sello “Autoría Humana”, que certifica que la IA solo se utilizó para tareas menores, como correcciones ortográficas o gramaticales.
el dato...480 mil libros fueron utilizados sin autorización
Para entrenar modelos de IA, según el acuerdo alcanzado por Anthropic.
En el caso de Rosenbaum, revelar que utilizó IA como herramienta no evitó la controversia. Ahora trabaja con un verificador de datos que revisa su manuscrito palabra por palabra antes de publicar una nueva edición.
La experiencia, asegura, lo convenció de que hacen falta nuevas salvaguardas editoriales para una industria donde la IA ya forma parte del proceso. Aun así, afirma que no ha renunciado a esta tecnología.
AAL