IA chinesa de vídeo censura Xi Jinping e Praça Tiananmen

Startup Sand AI lança modelo de geração de vídeo com licença aberta, mas filtros restringem conteúdo politicamente sensível.

O Lançamento do Magi-1 e a Promessa da IA Generativa

A startup chinesa Sand AI anunciou recentemente o lançamento do Magi-1, um modelo de inteligência artificial para geração de vídeos que tem gerado grande expectativa no setor. O modelo, que opera de forma autoregressiva, prevendo sequências de quadros para criar vídeos, promete alta qualidade e controle sobre as filmagens, com uma representação física mais precisa do que outras alternativas de código aberto. O lançamento foi elogiado por figuras proeminentes do empreendedorismo tecnológico, como Kai-Fu Lee, diretor fundador da Microsoft Research Asia, que vê no Magi-1 um avanço significativo para a IA generativa.

No entanto, apesar do potencial tecnológico, o Magi-1 já enfrenta questionamentos devido às suas funcionalidades de controle de conteúdo. A Sand AI, sediada na China, parece ter implementado filtros que restringem a geração de imagens e vídeos considerados politicamente sensíveis pelas autoridades chinesas. Isso levanta um debate importante sobre a liberdade de expressão e a aplicação de diretrizes governamentais em tecnologias de ponta.

Filtros Rígidos e a Censura de Imagens Chave

Testes realizados com o modelo Magi-1 revelaram que a plataforma bloqueia automaticamente o upload de prompts contendo figuras e símbolos politicamente sensíveis. Entre os conteúdos barrados estão fotos de Xi Jinping, o líder máximo da China, imagens da Praça Tiananmen, o icônico protesto do “Tank Man”, a bandeira de Taiwan e insígnias associadas aos movimentos de libertação de Hong Kong. Esses bloqueios ocorrem mesmo quando os usuários tentam contornar as restrições, alterando nomes de arquivos ou utilizando variações nos prompts, demonstrando a robustez dos filtros implementados.

Essa prática de censura em modelos de IA não é exclusiva da Sand AI. Outras startups chinesas de inteligência artificial adotam medidas semelhantes. A plataforma Hailuo AI, por exemplo, também bloqueia fotos de Xi Jinping, embora permita o envio de imagens da Praça Tiananmen, indicando diferentes níveis de rigor na aplicação das políticas de censura entre as empresas. A necessidade de cumprir as regulamentações locais parece ser um fator determinante no desenvolvimento e na oferta desses modelos.

O Contexto Regulatório Chinês e os Controles de Informação

A implementação desses filtros rigorosos está diretamente ligada ao ambiente regulatório da China. Desde 2023, uma lei nacional proíbe que modelos de IA gerem conteúdo que possa “prejudicar a unidade do país e a harmonia social”, além de conteúdos que contrariem as narrativas históricas e políticas oficiais. Para muitas startups, a censura se torna uma estratégia necessária para garantir a conformidade e evitar sanções legais.

Essa abordagem contrasta com a de modelos de IA desenvolvidos em países ocidentais, que geralmente focam mais em restrições de conteúdo considerado ofensivo ou prejudicial, como discurso de ódio e desinformação, mas tendem a ter menos barreiras para discussões políticas. A situação na China, portanto, reflete um esforço direcionado para o controle da informação e a manutenção da estabilidade social, conforme definida pelo governo.

Desafios Técnicos e a Incomum Liberdade em Conteúdo Adulto

Além das questões de censura, o Magi-1 apresenta desafios técnicos significativos. Com 24 bilhões de parâmetros, a execução do modelo exige um hardware robusto, especificamente de quatro a oito GPUs Nvidia H100. Essa exigência torna o Magi-1 impraticável para a maioria dos usuários em dispositivos de consumo, limitando seu acesso a centros de pesquisa e empresas com infraestrutura avançada.

Curiosamente, enquanto os modelos chineses como o Magi-1 impõem controles rigorosos sobre conteúdo político, relatos indicam que eles frequentemente apresentam menos restrições em relação a conteúdos adultos. Diversos geradores de vídeo desenvolvidos por empresas chinesas ainda carecem de salvaguardas básicas para prevenir a criação de nudez não consensual, um ponto que tem sido criticado por especialistas em segurança e ética digital. Essa dicotomia levanta questões sobre as prioridades e os valores que moldam o desenvolvimento da IA na China, onde a conformidade política parece ter precedência sobre outras formas de moderação de conteúdo.

A Sand AI, com seu modelo Magi-1, se insere nesse cenário complexo, oferecendo tecnologia de ponta em geração de vídeo, mas sob a égide de um rigoroso controle governamental. A capacidade de gerar vídeos realistas e controláveis é inegável, mas a aplicação de filtros para censurar conteúdo politicamente sensível é um lembrete constante das particularidades do ecossistema tecnológico chinês e dos desafios que a IA enfrenta ao navegar em fronteiras políticas e sociais.