Publicado en BBC
https://www.bbc.com/mundo/articles/ckgdmv8gz1jo
Autor, Matías Zibell
Título del autor, BBC News Mundo
Fecha de publicación 9 agosto 2026
El 30 de abril pasado Marçal Font recibió un pedido que llamó su atención en la Librería Fénix, un lugar de referencia para el comercio de libros antiguos de la ciudad catalana de Badalona.
"Hace 20 años que me dedico a ser librero de viejo, o sea, que de compras extrañas he tenido millones, con lo cual ya no me alarmo", le cuenta a BBC Mundo quien es además poeta y profesor de Literatura Comparada de la Universidad de Barcelona.
El pedido provenía de una empresa ubicada en Canadá, pero esta no era la primera vez que la librería enviaba libros en catalán al exterior. "Mandamos libros hasta Japón, no es algo raro; pero el patrón (de compra) era extraño".
Cuando a comienzos de mayo llegó una nueva serie de pedidos, Font decidió investigar por temor a que se tratara de un fraude.
"No es frecuente buscar a quiénes nos compran, pero en ese caso empezamos a mirar, más que nada, porque eran pedidos en una ventana de una hora o 40 minutos. Teníamos tres o cuatro correos pidiendo un número dispar de libros. Y los gastos de envío asociados eran disparatados".
Entonces consultó con su amigo Xavier Vinaixa, a quien además de su amor por los libros y el humanismo, lo une la pasión por la inteligencia artificial.
"Me llamó y me dijo, 'oye, me están entrando aquí pedidos con patrones raros, el mismo cliente, con envío al exterior y pagando tres veces gastos de envío'. Y él lo primero que pensó es que no fuera una estafa", recuerda Vinaixa en diálogo con BBC Mundo.
"Y ahí fue cuando empezamos a tirar del hilo y encontramos otra gente, con las mismas inquietudes que Marçal, en Alemania, en Nueva Zelanda... Y entonces lo vimos súper claro", añade este investigador de inteligencia artificial y director técnico de la empresa tecnológica Sorensen.ai.
Si uno realiza una búsqueda en internet con los términos "libros antiguos" e "inteligencia artificial" encuentra rápidamente esas "inquietudes" a las que hace referencia Vinaixa.
En un artículo del periódico británico The Telegraph titulado "Barbarie cultural: cómo las empresas de IA están destruyendo los libros del mundo", un librero de Haarlem, Países Bajos, cuenta la sorpresa que sintió al recibir un pedido masivo de libros:
"En el comercio de libros antiguos es muy poco frecuente que la gente quiera comprar más de un libro. Así que, si alguien viene y dice 'quiero un par de cientos de sus libros' resulta muy extraño", contó el anticuario Pieter de Vries.
El diario The Guardian, citó a una librera en la ciudad australiana de Victoria que recibió un pedido de la misma compañía que le compró a Marçal Font: "Hicieron el pedido, pagaron por adelantado y no pusieron reparos a los gastos de envío", explicó Delfina Manor.
Ambos artículos, así como los que contaron la historia del librero catalán, hacen referencia a la investigación periodística que destapó lo que se conoce como el "Proyecto Panamá".
En septiembre de 2025, la empresa de inteligencia artificial (IA) Anthropic acordó pagar US$1.500 millones para resolver una demanda colectiva presentada por autores que alegaban que la compañía había utilizado sus obras sin permiso para entrenar sus modelos de IA.
Cuatro meses después, el diario Washington Post publicó en exclusiva un documento que fue parte del proceso judicial, en el que se mencionaba la existencia de un plan para digitalizar todas las obras escritas por la humanidad.
"El Proyecto Panamá es nuestro esfuerzo para escanear de forma destructiva todos los libros del mundo", indicaba el texto filtrado, que más adelante especificaba: "No queremos que se sepa que estamos trabajando en esto".
Maximiliano Firtman, profesor argentino y autor de libros sobre programación e inteligencia artificial, fue uno de los autores que demandó a Anthropic en esa demanda colectiva.
Según le cuenta a BBC Mundo, el juez dictaminó que si la empresa compraba el ejemplar del libro, podía usarlo para entrenar a la IA.
"Y ahí empezaron a surgir los testimonios de libreros alrededor del mundo que reciben órdenes de libros que nadie tocaba, y de algunas empresas que se dedican a escanear estos libros y darles el texto ya escaneado a las empresas de inteligencia artificial. Así aparece el tema de la destrucción de los libros".
Rodrigo Álvarez, periodista especializado en tecnología en el medio Todo Noticias (TN) de Argentina, explica que hay dos métodos para digitalizar libros, uno de los cuales no implica la destrucción del ejemplar, ya que usa escáneres planos o dispositivos con forma de V que escanean las páginas sin desarmar la encuadernación.
"El procedimiento 'destructivo' es basicamente un proceso que comienza con el corte del lomo para que las hojas queden sueltas; las páginas ya separadas se introducen en escáneres industriales de alta velocidad que las escanean mucho más rápido, de manera automática", le dice a BBC Mundo.
Una vez digitalizadas las páginas, el libro ya no puede armarse de nuevo y sus restos suelen enviarse a reciclaje.
"Las empresas eligen esta segunda alternativa por una cuestión de escala: permite digitalizar millones de ejemplares con mayor rapidez y a un costo menor. En el caso documentado de Anthropic, para el Proyecto Panama se usó este procedimiento", concluye Álvarez.
Digitalizar los libros permite preservar los textos escritos a lo largo de la historia humana, pero el objetivo principal parece obedecer más a entrenar a la inteligencia artificial que a un espíritu de conservación.
"Cuando hablamos de IA normalmente se sobreentiende que hablamos de un LLM (siglas en inglés de Large Language Model), un gran modelo de lenguaje", aclara Xavier Vinaixa.
Los LLM, como -por ejemplo- ChatGPT-, son programas de inteligencia artificial que aprenden a entender, resumir, traducir y generar texto u otro contenido prediciendo la palabra o el fragmento siguiente.
"Todos usamos el teclado predictivo en nuestros teléfonos. Vos decís 'hola, estoy llegando…' y capaz que te sugiere la palabra 'tarde'. ¿Cómo funciona ese teclado predictivo? En base a estadísticas de textos previos que vos escribiste. Eso mismo, pero elevado a la millonésima potencia, es un LLM", ejemplifica Maximiliano Firtman.
Entonces, para entrenar a estos modelos grandes de lenguaje en el intrincado arte de encontrar las conexiones entre las palabras, primero se los "alimentó" con toda la información que había en la red -Wikipedia, blogs, foros-, y cuando esto comenzó a acabarse, se los entrenó con notas de periódicos y hasta con subtítulos de los videos de YouTube.
"Todo lo que tenían a mano se lo daban a esa máquina que se traga textos, y cuando esto se terminó empezaron a buscar en los libros impresos que ya estaban digitalizados, luego en las bibliotecas y ahora empezaron a buscar libros extraños que no son comerciales. ¿Y que están dónde? En librerías de libros usados y anticuarios", añade Firtman.
"En el caso de Marçal -dice Xavier Vinaixa- me comentaba de pedidos que le llegaban, por ejemplo, de la historia de los embutidos catalanes, cosas que seguro que no se han usado todavía para entrenar".
La destrucción de los libros escaneados para entrenar a la IA ha generado cuestionamientos y dudas desde diversos foros.
Miguel Ángel Ortega, presidente de la Asociación Profesional del Libro y Coleccionismo Antiguos de España, le dice a BBC Mundo que se debería distinguir si se trata de ejemplares de tiradas masivas o de tiradas limitadas.
"Como comerciantes que preservamos el patrimonio y que realizamos una labor de conservación, creemos que el uso final de una obra, de una edición muy limitada, escasa o única, lógicamente, no debería ser la destrucción".
En esto coincide Rodrigo Álvarez, el periodista de Tecnología de TN, para quien el mayor riesgo "es que las compras indiscriminadas destruyan ejemplares raros o agotados sin comprobar antes cuántos de esos ejemplares quedan en stock de distribuidoras y librerías, o incluso en poder de las personas".
A Marçal Font, en cambio, la destrucción de libros no le preocupa tanto: "No soy nada romántico en ese sentido".
"Igual que los veterinarios que estudian para salvar a los animales acaban siendo los que más animales sacrifican; mi punto de vista es que no hay nadie que destruya más libros que un librero de viejo, porque compramos bibliotecas enteras, salvamos todo lo salvable, pero hay mucho que no se salva".
Font explica que si un libro tiene depósito legal, lo que asegura una conservación de 5 o 10 ejemplares como mínimo, "que se destruya un ejemplar para que toda esa información vaya a un formato nuevo de conocimiento me parece hasta bien".
Su preocupación radica en que la digitalización de todo el material producido por la humanidad deje de lado aquello que no cuenta con un ISBN (siglas en inglés de International Standard Book Number), el número que identifica cada libro publicado.
"Toda la disidencia política del mundo, la lucha LGTBI, todos los fanzines de rebeldía, la contracultura, todo lo underground se ha hecho sin ISBN", señala, y advierte que este material podría perderse para futuras generaciones si no se lo digitaliza también.
Por esa razón, tanto Álvarez como Font destacan que no se debe confundir digitalización con conservación.
Las librerías de ejemplares usados y antiguos se han convertido en un nuevo reducto para buscar "el alimento" para la IA.
"La digitalización de un libro no es lo mismo que conservar un libro; generalmente ese archivo digital suele quedar en una base de datos privada, fuera del alcance de lectores, bibliotecas e investigadores", advierte Álvarez.
El periodista tecnológico añade que en esta digitalización extrema también pueden perderse características que exceden al texto, como su encuadernación, anotaciones, ilustraciones, calidad de impresión, procedencia y otras particularidades.
Para Font, la ausencia de estos "metadatos" deja en las sombras claves fundamentales para la buena interpretación de un texto, con lo cual los datos que se producen incluso para la propia industria de IA son, en su opinión, deficitarios.
"Que haya un trasvase de conocimiento del formato libro a los nuevos formatos me parece muy positivo; en los siglos XV y XVI ya hubo un proceso similar con esos libros de la recién inaugurada imprenta, y también se perdía la calidad de los datos de un formato a otro. ¿Eso cómo se resolvió? Con metadatos".
Él pone el ejemplo de cuando se recopiló información inscrita en pierdas para pasarla al papel: "No bastaba con transcribir el texto que había en la piedra, había que incluso dibujar la piedra, hablar de sus materiales, de su localización, todo ese metadato es lo que nos permite ahora a nosotros reconstruir qué decía esa piedra en realidad".
El presidente de la Asociación Profesional del Libro y Coleccionismo Antiguos de España explica que incluso dos libros con el mismo texto pueden tener un valor cultural muy diferente.
"Pueden tener la misma información, pero uno tiene un ex libris (una etiqueta decorativa pequeña que se pega en el interior de la cubierta delantera para indicar quién es su propietario), una encuadernación artesanal o anotaciones, que no se van a poder trasladar al formato digital, un poco lo que ocurre con el formato del libro electrónico".
Para evitar la digitalización que destruye los libros y deja de lado información clave, tanto Font como Vinaixa proponen evitar los intermediarios
"La solución que proponemos es escanear nosotros nuestro patrimonio en nuestra lengua, lo guardamos y licenciamos los datos; si tú quieres los datos, yo te los doy de la mejor manera posible y el libro me lo guardo, porque para la gente que hace investigación es importante también cómo el libro tiene la portada, cómo ha sido cosido, no solo el contenido", dice Vinaixa.
El director técnico de la empresa tecnológica Sorensen.ai. añade que la demanda de datos continuará, hasta que ya no haya con qué alimentar a la inteligencia artificial.
"Creíamos que la IA se iba a quedar pequeña cuando ya no haya más capacidad de proceso. Pues no, el tope son los datos, la IA se ha quedado pequeña porque ya no hay más datos".
Para Firtman, aún no sabemos qué pasara cuando se acabe la información generada por humanos:
"Lo siguiente que hay son los datos sintéticos, los textos escritos por la propia IA. El mayor riesgo de acá a unas décadas es que cuando todo se lo preguntemos a una IA, sin ir a las fuentes, esa IA se empiece a degradar porque se está entrenando con la misma información que generó la propia IA".
El periodista Rodrigo Álvarez grafica esta degradación con la imagen de una serpiente que se come su propia cola:
"Las empresas alimentarían a sus modelos con contenido generado por otras inteligencias artificiales y en ese caso podrían multiplicarse errores, hacer cada vez más básico el lenguaje, como un resumen de un resumen de un resumen, cada vez más sencillo, una síntesis de una síntesis que se aleja de la información original".
Mientras, en la Librería Fénix de Marçal Font, la situación se fue modificando tras la compras "extrañas" de abril y mayo.
"Han ido cambiando de logística y de empresa. También nos empezaron a hacer mandar los libros no solo a Norteamérica sino a Alemania".
Y después de un mes sin novedades, Font ha recibido un nuevo pedido, justo esta semana, lo cual, para él, solo podría implicar una cosa:
"El Proyecto Panamá sigue en marcha".
***********************************************
Publicado en WIRED
https://es.wired.com/articulos/como-anthropic-destruyo-millones-de-libros-de-papel-para-que-claude-aprendiera-a-escribir
Cómo Anthropic destruyó millones de libros de papel para que Claude aprendiera a escribir
Documentos desclasificados revelan detalles sobre el Proyecto Panamá: libros comprados, desmembrados y digitalizados para entrenar IA. Un método para eludir las leyes de derechos de autor.
Marco Trabucchi
22 de mayo de 2026
Concebido en 2024 para el entrenamiento de Claude, el Proyecto Panamá se basaba en la premisa de alimentar a los robots con toneladas de libros, físicos, hechos de papel y tinta, para enseñarles "a escribir bien" en lugar de imitar el "lenguaje de baja calidad de internet".
Cada uno de ellos se escaneaba página por página y se introducía en el gran modelo de lenguaje (LLM) de Anthropic para perfeccionar sus habilidades de escritura. Concretamente, leemos que el proceso utilizaba una "máquina de corte hidráulica" para "cortar con precisión" los millones de libros que recibía de los vendedores de libros usados, y luego escaneaba sus páginas "con escáneres de alta velocidad y calidad profesional". Después, se contrataba a una empresa de reciclaje para recuperar los volúmenes desmembrados, porque "no había que desperdiciar nada".
Qué es el Proyecto Panamá
Un plan ingenioso y una cadena de montaje a la inversa que destruye objetos para producir información. Por este motivo, el Proyecto Panamá tuvo que permanecer en secreto: era una práctica destructiva que no contribuía a la buena reputación de la empresa fundada por los hermanos Amodei.
El Washington Post sacó a la luz el proyecto secreto gracias a una serie de documentos que surgieron como parte de una demanda colectiva contra Anthropic, acusada de infringir los derechos de autor de las obras utilizadas para entrenar sus modelos. El caso se resolvió en septiembre pasado con un acuerdo de aproximadamente 1,500 millones de dólares, pero en enero un juez hizo públicos algunos de los documentos del caso, junto con los detalles de una operación que la empresa hubiera preferido mantener en secreto.
Según documentos judiciales, la empresa se centró casi exclusivamente en el mercado de segunda mano para controlar los costos y mantener un perfil bajo. Comenzó con The Strand, una librería histórica de Nueva York, y luego recurrió principalmente a dos minoristas especializados: la estadounidense Better World Books y la británica World of Books. Se desconoce la cantidad total de volúmenes adquiridos, pero el Washington Post estima una cifra de entre quinientos mil y dos millones de volúmenes, comprados a lo largo de unos seis meses a un coste de decenas de millones de dólares.
La historia del Proyecto Panamá evoca una práctica bastante extendida en el ámbito de la inteligencia artificial. Es bien sabido que la mayoría de las grandes empresas del sector han utilizado textos con derechos de autor para entrenar sus modelos, recurriendo generalmente a sitios ilegales, bibliotecas clandestinas que ofrecen acceso a miles de obras digitalizadas. OpenAI y Meta no han ocultado su explotación.
El método pirata
Sin embargo, antes de abordar el tema de los libros físicos, se descubrió que Anthropic también se dedicaba a la piratería. Documentos revelaron que, en 2021, Ben Mann, cofundador de Anthropic, descargó personalmente millones de libros de LibGen. Al año siguiente, Mann elogió un nuevo sitio web llamado Pirate Library Mirror, que afirmaba abiertamente infringir deliberadamente la ley de derechos de autor en la mayoría de los países.
Según la fiscalía, el cambio de metodología, de descargar libros en línea desde sitios ilegales a comprarlos de segunda mano, era una forma de eludir las leyes de derechos de autor, aprovechando un concepto legal conocido como la doctrina de la primera venta, que permite a los compradores disponer libremente de sus compras sin la interferencia del titular. Si bien la destrucción de libros usados por parte de Anthropic se consideró legal, el uso de libros pirateados no lo fue, lo que derivó en un acuerdo extrajudicial de 1,500 millones de dólares.
Artículo originalmente publicado en WIRED Italia. Adaptado por Alondra Flores.
******************************************
Publicado en The Guardian
https://www.theguardian.com/commentisfree/2026/aug/05/anthropic-ai-destroying-books
¿Por qué Anthropic está destruyendo libros?
Kathryn James
Al parecer, a la empresa de inteligencia artificial le resultó más fácil escanear destructivamente «todos los libros del mundo» que lidiar con los derechos de autor en su búsqueda de datos para entrenamiento.
¿Deberíamos destruir todos los libros del mundo?
Una respuesta a esta pregunta puede encontrarse en los documentos judiciales del caso Bartz v. Anthropic PBC. El caso, tramitado en el tribunal de distrito del norte de California y resuelto a finales de julio de este año, puso de relieve el improbablemente denominado «Proyecto Panamá», uno de los esfuerzos de la empresa de inteligencia artificial Anthropic por mejorar su gran modelo de lenguaje Claude. «¿Qué es el Proyecto Panamá?», pregunta el documento interno presentado como prueba judicial número 21. La respuesta: «El Proyecto Panamá es nuestro esfuerzo por escanear destructivamente todos los libros del mundo». El memorando aconseja discreción: «¿Por qué utilizar un nombre en clave? […] [P]orque no queremos que se sepa que estamos trabajando en esto».
El escaneo destructivo fue la solución de Anthropic a un problema: para «entrenar» a Claude, Anthropic necesitaba reunir un conjunto de datos lingüísticos amplio y de alta calidad, preferentemente creado antes de 2022 y de la influencia corruptora de la IA generativa sobre los textos contemporáneos. Claude necesitaba tantas combinaciones lingüísticas como fuera posible para mejorar su capacidad de predecir resultados del lenguaje. Anthropic necesitaba datos, muchísimos datos y de muy alta calidad. Los libros, como sucede, siguen siendo una de las mejores fuentes de textos complejos, extensos y de alta calidad. Como señala la resolución judicial, Anthropic esperaba que los «hechos bien seleccionados, los análisis bien organizados y las cautivadoras narraciones de ficción» de los libros ayudaran a «Claude a escribir con tanta precisión y capacidad de persuasión como los Autores».
Anthropic tenía una opción: podía haber obtenido autorización de derechos de autor para utilizar libros electrónicos existentes. Esto habría requerido atravesar el «engorro jurídico/práctico/empresarial», como lo expresó el cofundador y director ejecutivo de Anthropic, que supone gestionar los derechos de autor. En lugar de tratar con los propietarios de los textos, Anthropic optó primero por utilizar fuentes pirateadas, una decisión que influyó en el acuerdo extrajudicial de 1.500 millones de dólares alcanzado por la empresa con los autores. Cuando ese enfoque comenzó a parecer demasiado complicado —o, como lo expresa la resolución judicial: «Anthropic dejó de estar “tan entusiasmada” con entrenar utilizando libros pirateados “por razones legales”»—, la empresa recurrió al escaneo destructivo. Finalmente, el juez determinó que el uso de material protegido para «entrenar» un LLM no constituía, por sí mismo, una infracción de derechos de autor. Para el tribunal, al parecer, «entrenar» un producto corporativo equivale a entrenar a cualquier ser humano: enseñar a leer para aprender a escribir.
¿Debería sorprendernos que a Anthropic le pareciera más fácil destruir textos impresos que trabajar con sus autores humanos? En cualquier caso, la decisión de utilizar escaneo destructivo convirtió el asunto en un problema de logística. Bajo la legislación estadounidense sobre derechos de autor, la doctrina de «uso legítimo» permite realizar un uso «transformador» de obras protegidas sin autorización del propietario. Anthropic tomó libros impresos y los escaneó, «transformándolos» o trasladándolos a un nuevo formato electrónico. Después se deshizo del ejemplar impreso original: la parte «destructiva» del escaneo destructivo. En el proceso, los proveedores de Anthropic ya habían cortado los lomos y los bordes de los libros para escanearlos con mayor facilidad antes de destruirlos. «Uno sustituyó al otro», escribió el juez William Alsup, quien señaló: «No existen pruebas de que la nueva copia digital se mostrara, compartiera o vendiera fuera de la empresa».
Anthropic contrató a un gerente de logística con experiencia, adquirió los libros a través de proveedores, contrató personal, almacenó los libros en una bodega y encontró un proveedor de digitalización que se hiciera cargo del propio proyecto de escaneo destructivo. Las pruebas presentadas en el caso muestran almacenes con libros ordenadamente apilados y etiquetados en estanterías, con personal desplazándose entre ellas. Según relata la resolución judicial, los proveedores de Anthropic «separaron los libros de sus encuadernaciones, cortaron sus páginas al tamaño adecuado y escanearon los libros en formato digital, desechando los originales en papel». En las imágenes del tribunal pueden verse pilas de libros esperando el escaneo destructivo. Lo que no se ve es el proceso posterior de limpieza: triturar y desechar los libros —o «todos los libros del mundo»— convertidos en material para reciclaje o vertedero.
La «condición libresca» o bookishness, es decir, el conjunto de significados asociados al libro como objeto cultural, siempre ha coexistido con la función del libro como instrumento textual. Basta recordar las imágenes de Donald Trump levantando un ejemplar de la Biblia frente a la iglesia de St. John durante las protestas del 1 de junio de 2020. Sin embargo, a diferencia de muchos otros países, Estados Unidos dispone de muy pocas disposiciones legales relacionadas con la regulación o exportación del patrimonio cultural estadounidense, y prácticamente ninguna que regule el tratamiento de los libros.
En el contexto de la resolución del caso Bartz v. Anthropic PBC, el escaneo destructivo es un mecanismo eficaz para eliminar la participación del autor del texto impreso y utilizar el contenido de esas obras para mejorar las funciones de un LLM. Es legal y está menos regulado que la minería a cielo abierto. ¿Cuáles serán las consecuencias si, como parece probable, esta práctica es adoptada por otras empresas de IA generativa, ahora y en el futuro? ¿Cuántos almacenes de libros sometidos a escaneo destructivo serían demasiados? No existe una lista de especies en peligro aplicada a las obras impresas ni una regulación significativa acerca de qué debería considerarse necesaria para garantizar la supervivencia de ejemplares raros o únicos. Y aún más: no existe una comprensión formal del objeto textual generado por seres humanos, considerado en sí mismo, como una categoría de activo cultural o patrimonio que pueda requerir protección. Si tomamos en serio el umbral de 2022, entendido como el momento en que los textos generados por IA comenzaron a incorporarse de manera significativa al registro textual, ¿deberíamos empezar a pensar en el «autor completamente humano» como una categoría emergente de preservación y custodia de colecciones?
Hay más que decir al respecto —por ejemplo, qué pensar de la biblioteca de investigación «para siempre» que Anthropic afirma que pretende crear—, pero permítaseme terminar señalando que Bartz v. Anthropic PBC es también una poderosa afirmación sobre la importancia de los libros o de los textos extensos, y sobre la importancia de los lectores. El juez William Alsup señaló:
«Durante siglos hemos leído y releído libros. Hemos admirado, memorizado e interiorizado sus grandes temas, sus argumentos sustantivos y sus soluciones estilísticas a problemas recurrentes de escritura».
Debería preocuparnos que Anthropic decidiera que era más fácil escanear y destruir libros físicos que afrontar el «engorro jurídico/práctico/empresarial». Debería preocuparnos que la interpretación actual del uso legítimo permitiera a Anthropic decidir que resultaba más fácil comprar y destruir «todos los libros del mundo» que pagar a los creadores de esas obras.
Pero quizá el aspecto más revelador de este caso sea la enorme importancia que tenía para Anthropic acceder a un conjunto de datos compuesto por textos complejos, extensos y no contaminados. Deberíamos preguntarnos por qué esos textos parecen tan rentables. Una posible respuesta al caso Bartz v. Anthropic PBC sería negarnos a devaluar nuestras vidas como lectores y escritores, reivindicar la propiedad de los espacios culturales en los que nuestro pensamiento y nuestras palabras se crean, comparten y preservan. El riesgo de la IA generativa, como muestra este caso concreto de Anthropic, es que cedamos los medios de producción de nuestras vidas lingüísticas: que pasemos de ser creadores a consumidores y entreguemos la promesa generativa de nuestro trabajo a los grandes modelos de lenguaje y a sus propietarios.
Kathryn James es bibliotecaria de libros raros en la Lillian Goldman Law Library de la Universidad de Yale.
The AI company apparently found destructively scanning ‘all the books in the world’ easier than dealing with copyright in its quest for training data
Should we destroy all the books in the world?
An answer to this question can be found in the court documents of Bartz v Anthropic PBC. The northern California district court case, decided in late July this year, highlighted the improbably named “Project Panama”, one of the AI company Anthropic’s efforts to improve its large language model Claude. “What is Project Panama?” court exhibit 21 asks, in an internal memo. The answer: “Project Panama is our effort to destructively scan all the books in the world.” The memo advises discretion: “Why use a codename? … [B]ecause we don’t want it to be known that we are working on this.”
Destructive scanning was Anthropic’s solution to a problem: in order to “train” Claude, Anthropic had to procure a large, high-quality language dataset, preferably one created before 2022 and the corrupting influence of generative AI on contemporary text. Claude needed as many language combinations as possible, to improve its ability to predict language outcomes. Anthropic needed data, lots of it, of very high quality. Books, as it happens, remain one of the best sources for complex, high-quality, long-form text. As the court’s decision relates, Anthropic hoped that books’ “well-curated facts, well-organized analyses, and captivating fictional narratives” would help “Claude write as accurately and as compellingly as Authors”.
Anthropic had a choice: it could have secured copyright permission to use existing e-books. This would have required the “legal/practice/business slog”, as Anthropic’s co-founder and CEO phrased it, of managing copyright. Rather than engage with the texts’ owners, Anthropic first chose to use pirated sources instead, a decision informing the company’s $1.5bn out-of-court settlement with authors. When that approach seemed too complicated (or, as the court decision phrases: “Anthropic became ‘not so gung ho about’ training on pirated books ‘for legal reasons’”), Anthropic turned to destructive scanning. As it happened, the judge ruled that using proprietary material to “train” an LLM did not, in and of itself, constitute an infringement of copyright. To the court, it would seem, “training” a corporate product is equivalent to training any human, teaching how to read in order to learn how to write.
Should we be surprised that destroying printed texts seemed easier to Anthropic than working with their human authors? Either way, the decision to use destructive scanning turned the issue into one of logistics. Under US copyright law, the “fair use” doctrine allows you to make “transformative” use of copyrighted works without the owner’s permission. Anthropic took printed books and scanned them, “transforming” or remediating them into a new, electronic format. They then disposed of the original printed copy: the “destructive” part of destructive scanning. Along the way, Anthropic’s vendors had already sliced the spines and edges of the books, to scan them more easily before destroying them. “One replaced the other,” as Judge William Alsup wrote, noting: “There is no evidence that the new, digital copy was shown, shared, or sold outside the company.”
Anthropic hired an experienced logistics manager, sourced the books from vendors, hired staff and housed the books in a warehouse, and found a digitization vendor to take on the project of the destructive scanning itself. The case exhibits show warehouses of books neatly stacked and labelled on shelves, staff moving between them. As the court’s decision relates, Anthropic’s vendors “stripped the books from their bindings, cut their pages to size, and scanned the books into digital form – discarding the paper originals”. In the court’s images, stacks of books await destructive scanning. Not seen: the clean-up project of shredding and disposing of the books (or, “all the books in the world”, reformatted as recycling or landfill).
Bookishness, or the range of meanings attached to the book as cultural object, has always lived alongside the book’s role as textual instrument. Witness the example of images of Donald Trump, holding up a copy of the Bible at St John’s during the protests of 1 June 2020. Yet unlike many other countries, the US has very few legal provisions relating to the regulation or export of American cultural heritage, and few to none governing the treatment of books.
In the context of the court’s decision in Bartz v Anthropic PBC, destructive scanning is an effective mechanism to strip authorial involvement from printed texts, in order to use the content of those works to improve the functions of an LLM. It is both legal and less regulated than strip mining. What are the consequences if, as seems likely, this practice is adopted by other generative AI companies, now and in the future? How many warehouses of destructively scanned books would be too many? There is no endangered list for printed works, and little regulation of what might constitute survival of the rare or unique. Still further, there is no formal understanding of the human-generated textual object, in and of itself, as a category of cultural asset or heritage that might require protection. If we take seriously the 2022 threshold, as a moment when AI-generated text began to make significant entry into the textual record, should we start to think of the “wholly human author” as an emergent category of collections preservation and stewardship?
There is more to say here (what to make, for instance, of the “forever” research library Anthropic states it intends to create), but let me close by observing that Bartz v Anthropic PBC is also a powerful statement on the importance of books or long-form text – and of readers. Judge William Alsup noted: “For centuries, we have read and re-read books. We have admired, memorized, and internalized their sweeping themes, their substantive points, and their stylistic solutions to recurring writing problems.” We should worry that Anthropic decided it was easier to scan and destroy physical books than to deal with the “legal/practice/business slog”. We should worry that the current understanding of fair use allowed Anthropic to decide that it was easier to buy and destroy “all the books in the world” than to pay the creators of those works.
But perhaps the most telling aspect of this case is that it was so important to Anthropic to have access to a dataset of complex, long-form, uncorrupted text. Let’s ask ourselves why that text should seem so profitable. One response to Bartz v Anthropic PBC might be to refuse to devalue our lives as readers and writers, to claim ownership of the cultural spaces in which our thought and words are created, shared and preserved. The risk with generative AI, as this single instance with Anthropic indicates, is that we cede the means of production of our large language lives: that we turn from creators to consumers, and hand the generative promise of our work to large language models and their proprietors.
Kathryn James is the rare book librarian at the Lillian Goldman Law Library at Yale University
No hay comentarios:
Publicar un comentario