Nova função do Gemini traz ferramenta para detectar conteúdos gerados por IA em imagens
Nesta quinta-feira (20), o Google divulgou que está implementando, no Gemini, a verificação de imagens para saber se elas foram criadas ou editadas por inteligência artificial (IA). A novidade permite ao usuário obter respostas diretas do assistente ao fazer perguntas como “Isso foi criado com a IA do Google?” ou “Isso foi gerado por IA?”, tornando mais simples a checagem da origem visual.
O recurso já funciona dentro do aplicativo Gemini, e, segundo o Google, o processo envolve a busca por uma marca d’água conhecida como SynthID. Depois de analisar a imagem e verificar a presença dessa marca, o aplicativo utiliza seu próprio raciocínio para fornecer a resposta ao usuário.
Como funciona a verificação de imagens
Ao fazer o upload da imagem no aplicativo Gemini e fazer a pergunta “Isso foi criado com a IA do Google?” ou “Isso foi gerado por IA?”, o aplicativo irá verificar se há a marca d’água SynthID. Em seguida, o aplicativo utilizará seu próprio raciocínio para fornecer a resposta. Essa descrição detalha o fluxo que usuários devem seguir para que o Gemini analise a autenticidade de imagens, combinando metadados embutidos e análise do próprio modelo.
Na prática, a tecnologia busca reduzir a incerteza sobre a origem de imagens compartilhadas online, especialmente em contextos onde a difusão de imagens geradas por IA pode causar desinformação. A verificação baseada em metadados é uma das frentes mais promissoras para permitir que plataformas e usuários saibam se um conteúdo visual passou por geração ou edição por modelos artificiais.
Parcerias e metadados C2PA ampliam transparência
O Google não planeja atuar sozinho nessa frente. A empresa comunicou que está colaborando com parceiros do setor visando à transparência do conteúdo e aos padrões de autenticidade no ecossistema de produtos da empresa, contando com a Busca, YouTube, Fotos e Pixel. A iniciativa ocorre por meio da participação da empresa no comitê diretivo da Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA).
Uma das novidades é que a partir desta semana, as imagens geradas pelo Nano Banana Pro (Imagem Gemini 3 Pro) no Google Ads, Gemini e Vertex AI vão contar com os metadados C2PA incorporados, possibilitando maior transparência sobre seu processo de criação. A intenção do Google é expandir a funcionalidade para outros produtos e superfícies nos próximos meses, reduzindo a fricção para desenvolvedores e anunciantes que queiram sinalizar conteúdo gerado por IA.
Além disso, a empresa visa ampliar a abordagem de verificação para proporcionar suporte às credenciais de conteúdo C2PA. Isso possibilitará a verificação da fonte original de conteúdos gerados por produtos e modelos que estão fora do ecossistema da empresa, abrindo caminho para um padrão mais amplo de autenticidade.
Próximos passos: áudio, vídeo e integração com a Busca
Embora o Gemini inicialmente tenha apenas a capacidade de analisar imagens, o Google afirmou que em breve disponibilizará a verificação de áudio e vídeo, além de poder expandir o recurso para fora do seu assistente de IA, incorporando-o, por exemplo, à Busca do Google. Essa expansão torna a proposta mais ambiciosa, ao buscar sinalizar um espectro maior de conteúdos gerados artificialmente.
Para usuários e produtores de conteúdo, a expectativa é que ferramentas como essa facilitem a identificação de mídias manipuladas ou sintéticas. No entanto, a eficácia dependerá da adesão a padrões como o C2PA e da capacidade das plataformas de integrar verificações sem afetar a experiência do usuário.
Reportagens sobre tecnologia reforçam o movimento do setor em direção à transparência, e contribuições de especialistas ajudam a moldar como esses sistemas serão adotados. Matheus Chaves é colaboração para o olhar digital no Olhar Digital, e a medida do Google se insere nesse esforço coletivo para criar mecanismos confiáveis de verificação.
Em resumo, a nova função do Gemini para detectar conteúdos gerados por IA em imagens é um passo relevante para identificar e rotular materiais produzidos por modelos artificiais. Com suporte a metadados C2PA e uma promessa de expansão para áudio, vídeo e integração com a Busca, a iniciativa busca oferecer ferramentas práticas para usuários verificarem a origem do conteúdo de forma rápida e direta.
Deixe um comentário