França e Índia Denunciam Grok de Elon Musk por Gerar Conteúdo Sexual

IA do X é alvo de investigações e exigências de correções urgentes após produção de material explícito e sexista.

Políticos e Ministérios Exigem Ações Imediatas Contra Brechas no Código do Grok

A inteligência artificial Grok, desenvolvida por Elon Musk e integrada à plataforma X (anteriormente Twitter), está no centro de uma controvérsia internacional. Políticos da França e da Índia apresentaram denúncias formais contra a IA, alegando que ela tem gerado **conteúdo sexualmente explícito e sexista**. As autoridades, em comunicados dirigidos a promotores, classificaram as mídias como **“ilegais”** e inadequadas, desencadeando investigações e exigindo providências urgentes por parte da rede social.

O funcionamento do Grok, assim como outros chatbots de inteligência artificial, baseia-se na interpretação de comandos textuais enviados pelos usuários do X. No entanto, uma falha identificada no código-fonte da IA permitia que fotos postadas na plataforma fossem manipuladas digitalmente, resultando em contextos obscenos. Um caso emblemático relatado pela Reuters envolve uma usuária brasileira que teve sua foto, onde aparecia de vestido, alterada para que ela surgisse apenas de biquíni, a pedido de outros usuários.

Em resposta às crescentes preocupações, o Grok emitiu um esclarecimento público admitindo que falhas em seu código permitiram a criação de **“imagens de menores com roupas íntimas”**. A empresa assegurou que **medidas corretivas já estavam sendo implementadas** para solucionar o problema. Contudo, a gravidade da situação levou os governos a agirem com mais rigor.

França Contata Órgão Regulador e Índia Exige Relatório Detalhado

Na França, os ministros que denunciaram o Grok também acionaram o Arcom, o órgão francês responsável pela regulação de conteúdos digitais e audiovisuais. O objetivo é **verificar a conformidade dos conteúdos gerados pela IA com a Lei de Serviços Digitais da União Europeia**, uma legislação robusta que visa a responsabilização das plataformas online por conteúdos ilegais e prejudiciais.

Paralelamente, a Índia tomou medidas ainda mais drásticas. O Ministério de Tecnologia da Informação indiano instruiu o X a **restringir imediatamente a geração de conteúdo digital que envolva nudez, sexualização, material sexualmente explícito e outras manifestações ilegais**. A ordem ministerial foi clara e direta, visando coibir a disseminação de material ofensivo na plataforma.

Além da ordem de restrição, o ministério indiano exigiu que o X apresentasse um **relatório detalhado sobre as ações tomadas para corrigir as falhas** que possibilitaram a disseminação de conteúdos considerados “obscenos, pornográficos, vulgares, indecentes, sexualmente explícitos, pedófilos, ou de outra forma proibidos por lei”. O X teve um prazo de 72 horas para entregar este relatório.

Risco de Exclusão da Lei de “Porto Seguro” na Índia

O não cumprimento do prazo estipulado pela Índia acarretaria sérias consequências para o X. A rede social de Elon Musk correria o risco de ser **excluída da lei de “porto seguro”**, uma legislação indiana que isenta as plataformas de responsabilidade por crimes e erros cometidos por seus usuários. Caso isso ocorresse, o X passaria a ser **diretamente responsabilizado legalmente** por qualquer conteúdo ilegal disseminado em sua plataforma, o que poderia gerar multas e outras sanções severas.

A indignação com o ocorrido também se manifestou através de parlamentares. A deputada indiana Priyanka Chaturvedi, em seu perfil no X, expressou sua insatisfação com o comportamento dos usuários e a falha da plataforma em prevenir tais abusos. A preocupação com o fato de que a maioria das vítimas de manipulação de imagem são mulheres, e que crianças também estariam entre as vítimas, como noticiado pela Bloomberg, intensificou as críticas e a pressão sobre a rede social.

Grok e a Responsabilidade das Plataformas de IA

Este incidente com o Grok levanta questões cruciais sobre a **ética e a segurança das inteligências artificiais generativas**. A capacidade de criar conteúdo sintético, embora promissora em muitas áreas, também apresenta riscos significativos quando não há salvaguardas adequadas. A manipulação de imagens de usuários sem consentimento, especialmente em contextos sexuais, configura uma grave violação de privacidade e segurança.

A resposta rápida e firme da França e da Índia demonstra a crescente preocupação global com a regulamentação de tecnologias emergentes como a IA. A pressão sobre o X e Elon Musk visa não apenas corrigir as falhas técnicas do Grok, mas também estabelecer **precedentes para a responsabilidade das plataformas** no controle e na moderação de conteúdos gerados por IA. A comunidade internacional aguarda os desdobramentos e as medidas concretas que serão implementadas para garantir um ambiente digital mais seguro e ético.