Amazon: Arquivos de abuso infantil detectados em treinamento de IA chocam autoridades

Gigante da tecnologia enviou mais de um milhão de relatórios de abuso infantil ligados à IA, levantando sérias preocupações sobre a origem e o rastreamento dos dados.

A Amazon se encontra no centro de uma polêmica após detectar centenas de milhares de arquivos com suspeita de envolverem abuso sexual infantil em suas bases de dados destinadas ao treinamento de modelos de inteligência artificial (IA). O volume expressivo desses registros, que foram encaminhados ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) nos Estados Unidos, resultou em um aumento drástico de 15 vezes nas denúncias ligadas à IA em 2025, sendo a Amazon a principal responsável pela maioria delas.

A prática da empresa, que removeu o conteúdo suspeito antes de utilizá-lo em seus treinamentos de IA, tem sido alvo de críticas por parte de especialistas. A principal preocupação reside na falta de informações detalhadas sobre a origem desses arquivos. Sem saber de onde os dados foram coletados, torna-se extremamente difícil para as autoridades policiais localizarem criminosos e, mais importante, resgatarem vítimas em potencial.

A dificuldade em rastrear criminosos e proteger vítimas

Os números apresentados pela Amazon são alarmantes. Em 2025, a empresa informou ter enviado mais de um milhão de relatórios de abuso infantil relacionados à IA. Este número representa um salto colossal em comparação aos 64 mil relatórios enviados em 2024. A justificativa da Amazon é que os dados foram coletados de fontes externas e da internet aberta, e que a empresa alega não possuir detalhes técnicos suficientes para auxiliar a polícia no rastreamento dos responsáveis.

No entanto, o NCMEC aponta um contraste significativo com outras gigantes da tecnologia. Empresas como Google e OpenAI, embora enviem um volume menor de denúncias, fornecem dados detalhados que possibilitam investigações efetivas. Essa diferença levanta questionamentos sobre as práticas de coleta e gestão de dados da Amazon.

A política de busca “muito sensível” e seus reflexos

Para explicar a quantidade massiva de alertas gerados, a Amazon declara utilizar uma configuração de busca “muito sensível”. O objetivo, segundo a empresa, é garantir que nenhum conteúdo suspeito passe despercebido. Contudo, essa abordagem gera um número elevado de falsos positivos, ou seja, casos que inicialmente parecem ser criminosos, mas que, após análise, não se confirmam.

O NCMEC reforça que, embora a detecção de crimes seja um passo importante, apenas alertar sobre a existência do problema, sem fornecer pistas sobre os perpetradores, não contribui efetivamente para a proteção de crianças em perigo imediato. A organização, que inclusive recebe financiamento da Amazon, clama por maior transparência nos processos de limpeza e organização dos bancos de dados utilizados pela empresa.

Velocidade versus ética na coleta de dados para IA

A corrida para o lançamento de novas tecnologias de IA tem levado empresas a coletarem volumes gigantescos de dados da internet sem uma verificação aprofundada de segurança. David Thiel, um pesquisador da área, alerta que a prioridade tem sido a velocidade, em detrimento de uma análise ética robusta sobre o que está sendo utilizado para alimentar esses modelos.

Como os dados frequentemente provêm de terceiros ou são coletados automaticamente da web, a responsabilidade sobre quem publicou o material criminoso tende a se diluir. Pesquisadores alertam ainda para o perigo intrínseco de usar dados suspeitos no treinamento de IAs. Existe o risco de que esses modelos aprendam padrões abusivos e, consequentemente, desenvolvam a capacidade de sexualizar fotos de crianças reais e/ou gerar imagens sintéticas de abuso.

As promessas da Amazon e o futuro da segurança em IA

Até o momento, a Amazon afirma que suas IAs não geraram imagens de abuso a partir do treinamento em questão. A detecção dos arquivos suspeitos foi realizada por um sistema de comparação de imagens com um banco de dados de crimes já conhecidos, um processo conhecido como “hashing”. A empresa se comprometeu a divulgar dados mais detalhados sobre suas práticas de segurança em março de 2026, um anúncio que será aguardado com grande expectativa pela comunidade e pelas autoridades.

A situação expõe um desafio complexo e crescente na era da inteligência artificial: como garantir que o desenvolvimento tecnológico não ocorra à custa da segurança e bem-estar, especialmente das crianças. A colaboração entre empresas de tecnologia, órgãos reguladores e especialistas em segurança digital é fundamental para estabelecer diretrizes claras e mecanismos eficazes de prevenção e combate a crimes como o abuso infantil.