A empresa de IA que destruiu milhões de livros para treinar seu modelo

Quer receber os textos desta coluna em primeira mão no seu e-mail? Assine a newsletter Xeque na Democracia, enviada toda segunda-feira, 12h. Para receber as próximas edições, inscreva-se aqui.

A cena é de terror. E quando pensamos nas maiores disputas em torno da Inteligência Artificial, raramente pensamos na dimensão física, real, humana que está por trás dessas disputas. Modelos de IA como ChatGPT e Claude parecem vindos de uma força etérea, que vive na nuvem, fora da nossa mundana existência e, portanto, imparáveis, irrefreáveis, irreguláveis.

É por isso que essa história não me sai da cabeça. 

Um processo judicial por violação de direitos autorais, movido em um tribunal da Califórnia, nos EUA, revelou a metodologia empregada pela empresa Anthropic para treinar seus modelos de IA com linguagem produzida por humanos. 

O processo foi movido por três escritores – Andrea Bartz, Charles Graeber e Kirk Wallace – contra a Anthropic por ter roubado o conteúdo dos seus livros. 

Eis o que a empresa fez para alimentar seu robô: 

Em fevereiro de 2024, a empresa adquiriu milhões de cópias de livros nos EUA, e para obter o conteúdo – as palavras e frases escritas por seres humanos – rasgou as lombadas, cortou as páginas de cada um deles, ajustando as folhas ao tamanho do scanner. Depois, seus funcionários escanearam cada página através de um software que digitaliza textos, para incluir cada frase lapidada pelos autores na enorme base de dados que treinaria o Claude. Finalmente, aquela pilha de destroços foi picotada e jogada no lixo. 

A cena, que relembra a história de Fahrenheit 451 – que retrata uma sociedade totalitária onde livros eram proibidos e queimados – é talvez o maior resumo da distopia que as Big Techs nos oferecem como caminho para o futuro. 

Primeiro, porque elas escondem todos os vestígios profanos dos seus modelos de negócio: os trabalhadores do Quênia que adoecem filtrando vídeos e textos com imagens de violências e abusos indizíveis para os modelos de IAs poderem ser treinados, as cidades que estão passando sede porque a água está sendo usada para enormes datacenters, as festas nababescas e temáticas oferecidas para políticos de todo o mundo não atrapalharem seus negócios com leis e regulações. 

A destruição de milhares de livros é apenas um destes elementos. Trata-se de uma decisão de negócios, tomada por executivos racionais, que visam superar obstáculos físicos ao desenvolvimento de softwares avançados rapidamente e com o menor custo possível. 

No caso da Anthropic, ela precisava de literatura de alta qualidade para treinar seu robô “superior” e estava buscando reproduzir a metodologia empregada antes pelo Google para sua biblioteca virtual. O Google conseguiu argumentar nas cortes dos EUA que criar e disponibilizar uma cópia digital de um livro físico comprado regularmente, seria um uso justo para uma obra. 

Mas, neste caso, não se trata de democratizar o uso de uma obra literária, mas de alimentar um modelo de IA que vai transformá-lo, e lucrar com ele em infinitas variedades de usos. 

Por isso, o caso judicial é considerado um marco histórico. 

E é mais brutal porque, vocês devem se lembrar, a Anthropic é a mesma empresa cujo fundador rompeu com a OpenAI sob o comando de Sam Altman para desenvolver IA que seria realmente “responsável” e segura. 

A mesma Anthropic cuja IA foi usada para a invasão dos EUA na Venezuela, anos depois, assim como nos ataques ao Irã. 

Assim, o destroçamento de milhões de livros é apenas uma lembrança do rastro de destruição que já se vê, e que se verá ainda pelas empresas de IA, diante da hesitação de nossos governantes de regularem contra ela, a nosso favor. 

Como nossos deputados, que não tiveram ainda a coragem de aprovar o PL da IA (PL 2338/2023) que garantiria pelo menos uma compensação pelo uso de livros e obras criadas por humanos para treinar robôs. O projeto, aprovado em dezembro de 2024 no Senado, está parado na Câmara dos Deputados. 

Não temos podido contar com aqueles que deveriam nos proteger. 

Eu gostaria de finalizar essa coluna dizendo que, ao saber da metodologia medonha empregada pela Anthropic para treinar sua IA, sem nenhum consentimento dos autores, ou da editora, o juiz da Califórnia reconheceu que se trata de puro e simples roubo.  

Mas não foi assim. 

O juiz William Alsup decidiu, na primeira decisão do tipo, que comprar, destroçar, e copiar obras literárias para treinar robôs a falarem como gente que sabe escrever é um exemplo de “fair use”, uso justo, dentro das leis de direito autoral americano.  

Tratar o roubo de conteúdo dos livros para treinar IA como ilegal seria como argumentar que “treinar crianças em idade escolar para escrever bem resultaria em uma explosão de obras concorrentes”, escreveu o juiz, alertando que a empresa ainda pode ser multada por ter baixado milhões de livros piratas da internet para treinar seu modelo.

Sim, o juiz equivaleu a inteligência sintética a treinar um ser humano. 

A OpenAI saudou a decisão. “Estamos satisfeitos que o Tribunal reconheceu que usar ‘obras para treinar LLMs foi transformador — espetacularmente transformador’.”