Relatório com técnica DE-COP aponta que OpenAI pode ter usado livros paywall da O’Reilly no treinamento
Um estudo recente do AI Disclosures Project sugere que a OpenAI treinou modelos com livros da O’Reilly que estavam por trás de paywalls, levantando novo debate sobre direitos autorais e práticas de coleta de dados para inteligência artificial. A análise, publicada por uma organização cofundada por Tim O’Reilly e Ilan Strauss, usou um método chamado DE-COP, descrito como um “ataque de inferência de associação”, para avaliar se modelos como o GPT-4o têm conhecimento prévio de textos protegidos.
Como os pesquisadores chegaram às conclusões
Os autores testaram a capacidade do GPT-4o de distinguir entre trechos originais e versões parafraseadas ou geradas por IA. Essa técnica DE-COP pretende revelar quando um modelo “reconhece” conteúdo específico porque o viu durante o treinamento.
Na prática, os pesquisadores utilizaram 13.962 trechos de 34 livros da O’Reilly publicados antes e depois das datas de corte de treinamento dos modelos, para estimar a probabilidade de que determinados excertos tenham sido incluídos no conjunto de treinamento. De acordo com o estudo, o GPT-4o “reconheceu” significativamente mais conteúdos de livros protegidos por paywall da O’Reilly, em comparação com o GPT-3.5 Turbo, que mostrou maior reconhecimento de materiais disponíveis publicamente.
O que os resultados significam e as limitações
Os achados sugerem que modelos mais recentes podem ter uma dependência maior de fontes não públicas, como livros pagos, para melhorar desempenho e qualidade de respostas. Isso reforça preocupações sobre o uso de material protegido por direitos autorais sem autorização explícita, e sobre a transparência das empresas que treinam grandes modelos de linguagem.
Ao mesmo tempo, os autores deixam claro que os resultados não são prova definitiva. O relatório afirma que a metodologia pode não ser infalível, e que existe a possibilidade de que alguns trechos protegidos tenham sido coletados a partir de usuários que copiaram e colaram conteúdos no ChatGPT. Além disso, o estudo não avaliou modelos mais recentes, como o GPT-4.5 e as versões “de raciocínio”, deixando em aberto se esses modelos também foram treinados com material protegido em igual ou menor grau.
Contexto do setor, respostas e implicações legais
A OpenAI já admite pagar por parte de seus dados de treinamento, mantendo acordos com editoras de notícias, redes sociais e bibliotecas de mídia, e oferece mecanismos de exclusão que permitem aos detentores de direitos solicitar que conteúdos não sejam usados. Ainda assim, a empresa enfrenta diversas ações judiciais relacionadas às práticas de treinamento e à interpretação das leis de direitos autorais nos Estados Unidos.
O relatório do AI Disclosures Project aponta para uma tendência do setor em buscar fontes de dados de maior qualidade, incluindo a contratação de jornalistas e especialistas em ciências para melhorar o desempenho dos modelos. No entanto, se confirmada, a alegação de que a OpenAI treinou modelos com livros paywall da O’Reilly sem licença poderia complicar acordos futuros e aumentar a pressão regulatória sobre empresas que desenvolvem IA.
Os autores do estudo recomendam cautela na interpretação dos resultados, e destacam que mais investigação é necessária para esclarecer a origem exata dos trechos identificados. Enquanto isso, editores, autores e empresas de tecnologia devem se preparar para debates mais intensos sobre transparência, licenciamento e responsabilidade no uso de conteúdos protegidos para treinar inteligências artificiais.
Em resumo, a pergunta central segue em aberto: até que ponto empresas como a OpenAI dependem de materiais protegidos para alcançar avanços em capacidade e qualidade de resposta? O relatório traz evidências que apontam nessa direção, mas também deixa claro que a investigação precisa continuar para transformar suspeitas em provas conclusivas.
Deixe um comentário