X/Twitter sob pressão: Autoridades exigem bloqueio de deepfakes sexuais no Brasil

MPF, ANPD e Senacon dão prazo para plataforma de Elon Musk agir contra IA Grok e conteúdos abusivos.

O cenário digital brasileiro ganhou um novo capítulo de tensão. O Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) uniram forças e enviaram uma recomendação oficial contundente ao X/Twitter. O pedido, feito na última terça-feira (20), é claro e direto: a rede social deve bloquear imediatamente a criação de imagens eróticas geradas pela sua inteligência artificial, o Grok. A medida surge em resposta a uma onda crescente de denúncias sobre o uso indevido da ferramenta para a produção de deepfakes sexuais, que expõem pessoas reais, incluindo crianças e adolescentes, a situações de exploração sexual sem qualquer consentimento.

Responsabilidade da Plataforma e a IA como “Coautora”

As autoridades brasileiras deixaram claro que a plataforma de Elon Musk não pode se eximir da responsabilidade sobre o uso de sua tecnologia. A facilidade com que o Grok tem sido utilizado para violar a privacidade e a dignidade de indivíduos é um ponto central na argumentação governamental. Para o governo, o X/Twitter atua como um “coautor” desses conteúdos abusivos ao disponibilizar a ferramenta que permite tais criações. Essa visão coloca a empresa em uma posição de responsabilidade direta sobre os resultados gerados por sua inteligência artificial, especialmente quando estes resultam em danos significativos às vítimas.

A recomendação emitida pelas instituições vai além de um simples pedido de moderação. O governo estabeleceu prazos claros para que o X/Twitter apresente soluções e implemente ferramentas de proteção robustas para os usuários. A exigência é de um bloqueio total, abrangendo todos os usuários, independentemente de assinarem versões premium do serviço. Além de impedir a geração de novas imagens não consensuais, a rede social precisa desenvolver um mecanismo de denúncia acessível e eficiente para que os usuários possam relatar abusos. A suspensão imediata de contas que utilizem a IA para fins eróticos e a remoção rápida do conteúdo ofensivo do ar também estão entre as demandas.

Prazo e Consequências em Caso de Não Cumprimento

O X/Twitter tem um prazo determinado para responder a essa recomendação. A empresa deve se posicionar sobre o cumprimento das orientações de forma amigável até o dia 27 de janeiro. Caso a rede social opte por ignorar o pedido, as instituições brasileiras já alertaram sobre as possíveis consequências. O governo se reserva o direito de ingressar com processos judiciais e aplicar multas pesadas. Essas sanções seriam baseadas em legislações importantes como a Lei Geral de Proteção de Dados (LGPD) e o Código de Defesa do Consumidor, demonstrando a seriedade com que o tema está sendo tratado pelas autoridades.

O objetivo primordial desta ação é proteger o cidadão contra a manipulação e a disseminação de sua imagem de forma degradante e prejudicial na internet. No entanto, o Instituto de Defesa do Consumidor (Idec), que foi o responsável por apresentar a denúncia inicial sobre o Grok, considera a medida das autoridades um tanto quanto tímida. Para o Idec, a suspensão completa do Grok seria mais adequada, até que seu uso possa ser considerado verdadeiramente seguro. Independentemente dessa avaliação, a pressão exercida pelas autoridades coloca o X/Twitter em um prazo apertado para reavaliar e, possivelmente, alterar suas regras de operação no Brasil, visando coibir o uso de sua tecnologia para fins ilícitos.

O Debate sobre Inteligência Artificial e Criação de Conteúdo

Este caso reacende o debate global sobre a ética na inteligência artificial e a responsabilidade das plataformas digitais. A capacidade de gerar imagens realistas por meio de IAs como o Grok levanta questões complexas sobre consentimento, privacidade e a disseminação de conteúdo falso. A linha entre a inovação tecnológica e o potencial para abusos é tênue, e a ação das autoridades brasileiras reflete uma tentativa de estabelecer limites claros para proteger os direitos dos cidadãos em um ambiente cada vez mais digitalizado. A forma como o X/Twitter responderá a esta recomendação poderá definir um precedente importante para a regulamentação de IAs no país e, potencialmente, em outras nações.

A rápida disseminação de deepfakes, especialmente aqueles de natureza sexual, representa uma ameaça séria à imagem e à reputação das pessoas. A facilidade de acesso a essas ferramentas, como o Grok, potencializa o alcance e o impacto desses conteúdos. Portanto, a exigência de bloqueio total e a implementação de mecanismos eficazes de denúncia e remoção são vistas como passos cruciais para mitigar esses riscos. A comunidade online e os órgãos de defesa do consumidor acompanham atentamente os desdobramentos desta situação, esperando uma resposta rápida e efetiva por parte do X/Twitter para garantir um ambiente digital mais seguro e ético para todos.