Índia Ordena que X, Plataforma de Elon Musk, Corrija o Grok por Conteúdo de IA “Obsceno”

Governo Indiano Dá Prazo de 72 Horas para X se Adequar e Restringir Conteúdo Considerado Obsceno pelo Chatbot Grok

A Índia tomou uma medida enérgica contra a X, empresa de Elon Musk, determinando a implementação de mudanças técnicas e processuais imediatas em seu chatbot de inteligência artificial, o Grok. A decisão surge após uma onda de reclamações de usuários e parlamentares sobre a geração de conteúdo considerado obsceno pela ferramenta de IA. Entre as principais denúncias, destacam-se a criação de imagens alteradas por inteligência artificial que retratam mulheres em situações sexualizadas, como o uso de biquínis, o que gerou profunda preocupação e indignação.

Ordem Ministerial e Prazo para Conformidade

Na última sexta-feira, o Ministério de Tecnologia da Informação da Índia emitiu uma ordem oficial. Nela, a X é explicitamente instruída a restringir a geração de conteúdos que envolvam elementos como “nudez, sexualização, material sexualmente explícito ou ilegal”. A plataforma tem um prazo estrito de 72 horas para apresentar um relatório detalhado. Este documento deve especificar as medidas que foram ou serão adotadas para evitar a hospedagem ou disseminação de qualquer conteúdo classificado como obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedofílico ou proibido por lei.

A ordem ministerial carrega um alerta significativo: a não conformidade com estas diretrizes pode colocar em sério risco as proteções legais da plataforma. Especificamente, a X pode perder o benefício da “safe harbor”, um dispositivo legal que garante imunidade de responsabilidade quanto ao conteúdo gerado pelos usuários, conforme estabelecido pela legislação indiana. Essa é uma consequência de grande peso para a operação da empresa no país.

Denúncias e Reconhecimento de Falhas pelo Grok

A decisão governamental não veio sem motivo. A preocupação foi intensificada por relatos de usuários que experimentaram o Grok. Em diversos casos, o chatbot teria alterado imagens de pessoas, predominantemente mulheres, para exibi-las usando biquínis. Essa situação específica motivou uma queixa formal por parte de uma parlamentar indiana, elevando o caso a um nível político e social mais amplo. Paralelamente, surgiram relatos ainda mais graves de que o chatbot gerou imagens sexualizadas envolvendo menores. A própria plataforma reconheceu que tais ocorrências se deram devido a falhas em seus mecanismos de proteção, e as imagens em questão foram posteriormente removidas. No entanto, as imagens que mostravam mulheres com biquínis de forma alterada pela IA, segundo a reportagem, continuavam acessíveis no site no momento da publicação da ordem, indicando uma lentidão na resposta da X.

Contexto Regulatório e a Posição da Índia

Esta medida surge em um momento crucial, poucos dias após o Ministério de TI ter emitido um comunicado mais amplo. Nesse comunicado, o ministério reforçou para todas as plataformas de mídia social a importância fundamental do cumprimento da legislação local sobre conteúdos obscenos e sexualmente explitos para a manutenção de suas imunidades legais. O alerta enfatizou a necessidade de fortalecer os mecanismos internos de proteção, lembrando que o descumprimento das normas poderá resultar em consequências legais rigorosas tanto para a plataforma quanto para seus responsáveis diretos.

O governo indiano, que comanda um dos maiores mercados digitais do mundo, tem se posicionado como um crucial caso de teste para avaliar a extensão do comprometimento dos governos em responsabilizar as plataformas pelo conteúdo gerado por inteligência artificial. Uma eventual intensificação na fiscalização no país pode gerar impactos significativos para empresas de tecnologia que operam em diversas jurisdições globais, estabelecendo um precedente.

Desafios da X na Índia e Questões Legais

A decisão ocorre em um cenário onde a X já contesta certos aspectos das regras de regulação de conteúdo na Índia. A empresa argumenta que os poderes federais para remoção de conteúdos podem, em alguns casos, extrapolar os limites legais. Mesmo tendo cumprido a maioria das diretrizes de bloqueio impostas anteriormente, a plataforma enfrenta desafios contínuos na gestão dos conteúdos gerados por seus usuários. Essa dificuldade se torna ainda mais acentuada com o uso ampliado do Grok para verificação de informações e comentários em tempo real sobre eventos noticiosos, o que aumenta a complexidade do monitoramento e controle.

O caso do Grok na Índia evidencia a complexa relação entre inovação tecnológica, liberdade de expressão e a necessidade de proteger a sociedade de conteúdos prejudiciais. A resposta rápida e firme do governo indiano sinaliza uma postura cada vez mais proativa na regulação do conteúdo gerado por IA, um tema que promete dominar os debates sobre tecnologia e legislação nos próximos anos.