Blog de IA

Tag: redes sociais

  • UE registra aumento acentuado em interferência estrangeira impulsionada por IA

    UE registra aumento acentuado em interferência estrangeira impulsionada por IA

    UE registra aumento acentuado em interferência estrangeira impulsionada por IA

    A União Europeia observou um crescimento alarmante em incidentes de interferência estrangeira impulsionados por inteligência artificial (IA) em 2025. Um relatório do Serviço Europeu de Ação Externa (SEAE), braço diplomático do bloco, apontou que atores mal-intencionados incorporaram totalmente a nova tecnologia em suas operações, levando a uma quase triplicação desses casos.

    O documento identificou 540 episódios de manipulação e interferência informacional (FIMI) no último ano. Desses, 147 envolviam o uso de IA, representando pouco mais de um quarto do total. Este número representa um aumento expressivo de 259% em relação a 2024, quando foram registrados apenas 41 casos semelhantes, demonstrando a rápida adaptação e expansão dessas táticas.

    Quem está por trás das operações?

    A Ucrânia foi o país mais visado, com 112 incidentes. Em seguida, aparecem a França (107), Moldávia (94), Alemanha (71) e os Estados Unidos (51). A Polônia, um membro importante da UE, registrou 17 incidentes, posicionando-se em oitavo lugar.

    Segundo o relatório, 29% dos incidentes documentados foram atribuídos à Rússia, enquanto 6% foram ligados à China. Os restantes 65% permaneceram sem atribuição direta, embora o documento sugira que muitos possam ter utilizado infraestruturas russas ou chinesas.

    A dificuldade na atribuição se deve à natureza enganosa das operações, que frequentemente ocultam seus operadores e financiamento. O relatório enfatiza que a maior parte das infraestruturas de FIMI é oculta ou inautêntica, tornando a exposição das conexões por trás de fontes secretas crucial para mitigar seu impacto.

    O que está sendo disseminado?

    Os temas explorados pelos atores maliciosos variaram desde o apoio à Ucrânia até as relações transatlânticas. Com a aproximação de eleições, o aparato russo de FIMI explorou questões domésticas para aprofundar divisões e polarização existentes.

    Na Alemanha, o foco foi a imigração; na Polônia, o sentimento anti-refugiados. Narrativas que retratavam a Ucrânia como instigadora de ataques na Europa foram amplamente utilizadas durante eventos de notícias de última hora, como a incursão de drones russos e o sabotagem ferroviária na Polônia.

    Tendências futuras e plataformas utilizadas

    As redes sociais e plataformas de mensagens continuam sendo os meios mais eficazes e de menor custo para alcançar grandes audiências globais. Notavelmente, 88% dos incidentes foram concentrados na plataforma X, propriedade do empresário Elon Musk.

    O relatório conclui que as atividades de FIMI russas provavelmente intensificar-se-ão ainda mais em 2026. Regiões de importância estratégica, como o Mar Báltico e o Ártico, devem se tornar alvos crescentes de operações de influência.

  • TSE fecha cerco ao uso de inteligência artificial, mas deixa lacunas em regras para eleições de 2026

    TSE fecha cerco ao uso de inteligência artificial, mas deixa lacunas em regras para eleições de 2026

    O Tribunal Superior Eleitoral (TSE) aprovou novas regras com o objetivo de disciplinar o uso da inteligência artificial (IA) nas eleições de 2026, buscando conter a produção e circulação de conteúdos enganosos. Apesar dos avanços na regulamentação, especialistas apontam que a resolução ainda apresenta lacunas significativas, especialmente quanto à responsabilidade das empresas desenvolvedoras de IA e à fiscalização em ambientes privados de mensagens.

    As novas normas ampliam a exigência de atuação das redes sociais, que precisarão remover conteúdos ilícitos e tentar impedir a republicação de material manipulado por IA, mesmo sem ordem judicial. Contudo, a ausência de punições mais severas e a dificuldade em identificar materiais gerados por IA deixam um cenário de incertezas para a disputa eleitoral.

    Novas regras e desafios da inteligência artificial nas eleições

    As resoluções aprovadas pelo TSE no início de março, relatadas pelo ministro Nunes Marques e validadas por unanimidade, representam um esforço de atualização diante do rápido avanço tecnológico. Para Fernando Neisser, professor de Direito Eleitoral da FGV-SP, as normas refletem essa necessidade, mas não cobrem todos os aspectos:

    “Se o usuário não consegue identificar, se a Justiça Eleitoral não consegue identificar e se a própria Polícia Federal tem dificuldade, como esperar que uma plataforma como o Instagram identifique esse conteúdo? Se não existe esse filtro, como impor esse dever às plataformas? Falta à Justiça Eleitoral olhar com mais responsabilidade para as empresas que produzem os sistemas de inteligência artificial.”

    A regulamentação concentra suas exigências nas plataformas digitais. Elas terão que agir de forma mais proativa, retirando conteúdos ilícitos e evitando a disseminação de material manipulado por IA. No entanto, a falta de regras claras para as empresas que criam os sistemas de IA, que geram esses conteúdos, é apontada como uma falha.

    Lacunas na regulamentação e ambientes privados de mensagens

    Outra área de preocupação é a circulação de conteúdos políticos gerados por IA em aplicativos de mensagens privadas, como WhatsApp e Telegram. A resolução não delimita claramente quando esse material passa a ser considerado propaganda eleitoral.

    Erick Beyruth, advogado eleitoral e pesquisador da PUC-SP, ressalta que a norma pode dar a impressão de que conteúdos compartilhados nesses aplicativos estariam fora do alcance das regras eleitorais. Ele explica:

    “Uma coisa é o grupo da minha família. É evidente que a Justiça Eleitoral não tem nada que interferir ali. Mas a situação muda quando as mensagens circulam em grupos maiores e abertos, que podem reunir centenas de pessoas. Quando esses grupos ganham escala, deixam de funcionar como uma conversa privada e passam a ter impacto público.”

    A resolução, segundo Beyruth, cria a impressão de que esses ambientes também estariam imunes às regras eleitorais, abrindo uma zona cinzenta importante.

    Inversão do ônus da prova e a complexidade da identificação de IA

    Alberto Rollo, advogado especialista em direito eleitoral, destaca um ponto positivo, mas que pode gerar conflitos: a possibilidade de inversão do ônus da prova em ações eleitorais que envolvam conteúdos sintéticos gerados por IA. Na prática, se houver suspeita de manipulação, quem publicou o material poderá ter que provar sua autenticidade.

    Contudo, Rollo aponta desafios na aplicação: identificar com segurança se um conteúdo foi ou não produzido por IA ainda é um processo complexo, mesmo com perícias técnicas. Essa dificuldade, segundo ele, mostra que o cenário ainda é marcado por incertezas.

    “A gente vai ter que esperar esses problemas aparecerem e depois tentar resolver. Acaba sendo um pouco enxugar gelo”, afirma.

    Perspectiva dos marqueteiros e o futuro das campanhas com IA

    Enquanto juristas identificam lacunas, profissionais que atuam diretamente em campanhas eleitorais entendem que o desafio também envolve a forma como a tecnologia será utilizada por candidatos e suas equipes.

    Pedro Simões, marqueteiro que trabalhou em campanhas como a de Tabata Amaral, lembra de episódios de deepfakes usados para atacar candidatas e afirma que a IA já é um instrumento de ataque político. Ele defende que as próprias campanhas precisam adotar cuidados para evitar o uso irregular desses conteúdos.

    A avaliação é compartilhada por Duda Lima, que coordenou campanhas de Jair Bolsonaro e Ricardo Nunes. Para ele, as eleições de 2026 serão marcadas pela inteligência artificial:

    “Será o ano da IA.”

    Ele prevê que a tecnologia será amplamente incorporada às estratégias eleitorais.

    Avanços nas regras, mas punições consideradas brandas

    Apesar das lacunas, as novas resoluções do TSE ampliam responsabilidades de plataformas e candidatos. Entre as novidades, está a proibição de circulação de conteúdos sintéticos novos produzidos ou alterados por IA nos 72 horas antes e 24 horas depois das eleições. As plataformas também são responsabilizadas solidariamente se não removerem materiais irregulares.

    Contudo, as sanções previstas, como multas, são consideradas brandas e com pouco efeito dissuasório diante da velocidade de propagação da desinformação gerada por IA. Alberto Rollo comenta:

    “As multas para a utilização de inteligência artificial também são muito baixas. Não deveria ser assim.”

    O cenário para 2026 aponta para uma eleição onde a inteligência artificial será um fator chave, com o TSE buscando impor limites, mas com desafios significativos na aplicação e fiscalização das regras estabelecidas.

  • Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: Como Criminosos Exploram Deficiências

    A inteligência artificial (IA) avança rapidamente, trazendo inovações, mas também novas formas de exploração. Criminosos têm se aproveitado da tecnologia de deepfakes para criar esquemas lucrativos, explorando de maneira particularmente cruel indivíduos com deficiência. Essa prática, que combina roubo de identidade com discriminação, tem gerado preocupações significativas.

    O método consiste na apropriação não autorizada de imagens de pessoas reais, muitas vezes retiradas de perfis de redes sociais. Em seguida, filtros de IA são usados para alterar características faciais, simulando condições como a síndrome de Down, e aplicados sobre o corpo de modelos. Essas figuras fictícias são então utilizadas para direcionar usuários a plataformas de conteúdo adulto pago, explorando a deficiência como um nicho de mercado.

    Como funcionam os deepfakes exploratórios

    A exploração de deepfakes que simulam síndrome de Down é uma forma alarmante de abuso digital. O processo inicia com a coleta de imagens de mulheres em seus perfis públicos. A IA, então, modifica a aparência facial para criar a ilusão de que a pessoa tem síndrome de Down. Essas imagens são sobrepostas a corpos de modelos reais, resultando em personagens completamente falsas.

    Um exemplo chocante é o caso de Alice, uma jovem de 17 anos, cuja imagem foi usada sem permissão em uma conta no Instagram que alcançou 25 mil seguidores. Essas contas operam em um padrão bem definido: postam conteúdo sugestivo para obter engajamento, recebem comentários explícitos e redirecionam o tráfego para sites de conteúdo adulto pago.

    “Retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”, explica a pesquisadora Eleanor Drage, da Universidade de Cambridge.

    Essa prática cria uma dupla camada de exploração, afetando tanto as vítimas diretas quanto a comunidade de pessoas com deficiência como um todo.

    O esquema de monetização nas redes sociais

    A monetização desses deepfakes maliciosos é um sistema sofisticado de redirecionamento entre plataformas. O esquema funciona como um funil de conversão, começando no Instagram e culminando em plataformas de conteúdo adulto, como o OnlyFans. Os responsáveis por isso são conhecidos como “Geradores de IA do OnlyFans”, especialistas em criar influenciadores virtuais para promover conteúdo adulto.

    Um “gerente” francês, identificado pela BBC como Dorian, compartilhava tutoriais em canais no YouTube e grupos no Telegram, ensinando a estratégia. O modelo de monetização segue etapas:

    • Criação de engajamento: Contas no Instagram postam conteúdo sugestivo para atrair seguidores.
    • Redirecionamento: Usuários são direcionados para perfis pagos, como o OnlyFans.
    • Adaptação às políticas: Rostos são ocultos ou cortados para evitar detecção de deepfakes pelas plataformas.
    • Exploração de nichos: Deficiências são vistas como “mercados de nicho” lucrativos.

    Dorian destacou em seus tutoriais a capacidade da IA de criar “qualquer nicho sob demanda”, incluindo pessoas com deficiências, como parte de uma estratégia comercial predatória.

    Impactos na comunidade com deficiência

    Os deepfakes que simulam síndrome de Down causam danos profundos, afetando não apenas as vítimas individuais, mas toda a comunidade com deficiência. O impacto é psicológico e social, perpetuando estereótipos e objetificando uma condição genética.

    Ativistas como Jeremy e Audrey, que possuem síndrome de Down, expressaram sua preocupação. “Acho que não está certo que eles tenham uma deficiência falsa”, disse Audrey à BBC. “Eu e Jeremy temos síndrome de Down e adoramos isso. Ela é única e eu adoro. É meio que a melhor coisa da minha vida.”

    Os impactos incluem:

    • Fetichização da deficiência: Transformação de uma condição genética em objeto sexual.
    • Representação distorcida: Criação de estereótipos prejudiciais.
    • Apropriação de identidade: Uso não autorizado de imagens da comunidade para lucro.
    • Normalização da exploração: Tratamento da deficiência como “nicho de mercado”.

    “Estão fazendo isso por dinheiro”, lamenta Jeremy. “Por favor, parem com isso.” A sensação de estar “sendo usada”, expressa por Audrey, reflete como essa prática afeta a dignidade e a autorrepresentação da comunidade.

    Resposta das plataformas digitais

    As plataformas digitais têm apresentado respostas inconsistentes e muitas vezes inadequadas diante do problema dos deepfakes exploratórios, revelando lacunas em suas políticas de moderação.

    No caso de Alice, a denúncia inicial ao Instagram resultou em uma resposta automática alegando que o usuário não violou as normas, pois os vídeos não eram explicitamente sexuais, explorando uma brecha nas políticas. Somente após a investigação jornalística da BBC, as plataformas agiram:

    • YouTube: Cancelou canais de Dorian por violar políticas de spam e práticas enganosas.
    • Meta (Instagram): Removeu a maioria das contas denunciadas por personificação e promoção de serviços sexuais.
    • OnlyFans: Reafirmou suas verificações de identidade, mas o sistema atual não impede o uso de imagens obtidas sem autorização.

    A remoção da conta que usava a imagem de Alice só ocorreu após a intervenção midiática, evidenciando a insuficiência das ferramentas automatizadas de moderação contra explorações sofisticadas.

    Como se proteger de deepfakes maliciosos

    A proteção contra deepfakes maliciosos exige uma abordagem multifacetada, combinando vigilância pessoal, uso de ferramentas de denúncia e conscientização.

    Estratégias individuais incluem:

    • Monitoramento regular: Buscar periodicamente pelo próprio nome e imagem em diversas plataformas.
    • Configurações de privacidade: Limitar a visibilidade de fotos e vídeos em perfis públicos.
    • Denúncias persistentes: Não desistir após respostas automáticas negativas das plataformas.
    • Documentação: Manter registros de contas falsas e tentativas de contato.

    Para a comunidade em geral, a proteção envolve educação sobre deepfakes, apoio às vítimas e pressão por políticas mais eficazes nas plataformas digitais. A exposição pública através da mídia, como no caso relatado pela BBC, continua sendo uma ferramenta importante para combater essas práticas exploratórias.

  • Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: Uma Nova Fronteira na Exploração Digital

    A inteligência artificial (IA) avança em ritmo acelerado, trazendo inovações que transformam diversos setores. Contudo, essa mesma tecnologia tem sido a ferramenta de criminosos para criar deepfakes, conteúdo sintético que simula a aparência e voz de pessoas reais. Uma das aplicações mais alarmantes dessa prática é a exploração de indivíduos com deficiência em esquemas financeiros, utilizando roubo de identidade e discriminação digital.

    Este artigo explora como deepfakes, em especial aqueles que simulam a síndrome de Down, se tornaram um nicho lucrativo para atividades ilícitas. Entender o funcionamento, a monetização e os impactos dessas manipulações é crucial para proteger as vítimas e a comunidade com deficiência.

    Como funcionam os deepfakes com síndrome de Down

    Os deepfakes que simulam síndrome de Down representam uma forma particularmente perturbadora de exploração. O processo envolve a apropriação não autorizada de imagens de mulheres, frequentemente retiradas de perfis públicos em redes sociais. A IA, com filtros específicos, altera características faciais para criar a aparência de pessoas com síndrome de Down, aplicando-as sobre corpos de mulheres reais.

    O caso de Alice, uma jovem de 17 anos, exemplifica essa exploração. Sua imagem foi usada sem consentimento em uma conta do Instagram que reuniu 25 mil seguidores. Essas contas falsas seguem um padrão claro: postam mensagens sexualmente sugestivas para gerar engajamento, recebem comentários explícitos e direcionam o tráfego para plataformas de conteúdo adulto pago, explorando a deficiência como um nicho de mercado.

    Segundo a pesquisadora Eleanor Drage, da Universidade de Cambridge, essa prática “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”. Isso cria uma dupla camada de exploração, afetando tanto as vítimas individuais quanto toda a comunidade com deficiência.

    O esquema de monetização nas redes sociais

    A monetização desses deepfakes maliciosos opera por meio de um sistema sofisticado de redirecionamento entre plataformas. O esquema funciona como um funil de conversão, começando no Instagram e culminando em plataformas de conteúdo adulto pago. O modelo de negócio é coordenado pelos chamados “Geradores de IA do OnlyFans” — profissionais especializados em criar influenciadores artificiais para promover conteúdo adulto.

    Um “gerente” francês, identificado como Dorian, mantinha um canal no YouTube com tutoriais e um canal no Telegram com milhares de assinantes. A estratégia de monetização segue etapas específicas:

    • Criação de engajamento: Contas no Instagram postam conteúdo sugestivo para atrair seguidores.
    • Redirecionamento: Usuários são direcionados para perfis pagos no OnlyFans.
    • Adaptação às políticas: Rostos são cortados ou ocultos no OnlyFans para evitar violação de regras sobre deepfakes.
    • Exploração de nichos: Deficiências são tratadas como “mercados de nicho” lucrativos.

    Dorian explicou em seus tutoriais que a IA permite criar “qualquer nicho sob demanda” e “qualquer personagem instantaneamente”, incluindo pessoas com deficiências, como parte de uma estratégia comercial predatória.

    Impactos na comunidade com deficiência

    Os deepfakes que simulam síndrome de Down causam danos profundos que vão além das vítimas individuais, afetando toda a comunidade. O impacto é psicológico e social, perpetuando estereótipos prejudiciais e objetificando uma condição genética.

    Ativistas e produtores de podcasts com síndrome de Down, como Jeremy e Audrey, expressaram profunda preocupação. “Acho que não está certo que eles tenham uma deficiência falsa”, declarou Audrey à BBC. “Eu e Jeremy temos síndrome de Down e adoramos isso. Ela é única e eu adoro. É meio que a melhor coisa da minha vida.”

    Os impactos incluem:

    • Fetichização da deficiência: Transformação de uma condição genética em objeto sexual.
    • Representação distorcida: Criação de estereótipos prejudiciais.
    • Apropriação de identidade: Uso não autorizado da imagem da comunidade para lucro.
    • Normalização da exploração: Tratamento da deficiência como “nicho de mercado”.

    “Estão fazendo isso por dinheiro”, lamenta Jeremy. “Por favor, parem com isso.” O sentimento de Audrey de estar “sendo usada” reflete como essa prática afeta a dignidade e autorrepresentação de toda a comunidade, criando uma “rede de exploração”, nas palavras da pesquisadora Eleanor Drage.

    Resposta das plataformas digitais

    As plataformas digitais apresentaram respostas inconsistentes e frequentemente inadequadas ao problema dos deepfakes exploratórios, revelando lacunas em suas políticas de moderação de conteúdo. A resposta inicial do Instagram foi problemática; quando Alice denunciou a conta que usava sua imagem, recebeu uma resposta automática alegando que o usuário não violou as normas, pois os vídeos deepfake não eram explicitamente sexuais, explorando uma brecha nas políticas.

    Após a investigação da BBC, as respostas tornaram-se mais efetivas:

    • YouTube: Cancelou os canais de Dorian por violar políticas de spam, scam e práticas enganosas.
    • Meta (Instagram): Removeu a maioria das contas denunciadas por desrespeito às regras de personificação e promoção de serviços sexuais.
    • OnlyFans: Reafirmou que criadores passam por “profunda verificação de identidade” e não permite conteúdo deste tipo.

    Contudo, a conta que explorava a imagem de Alice só foi removida após a intervenção jornalística, não pelos canais normais de denúncia. Isso evidencia que as ferramentas automatizadas de moderação são insuficientes para detectar formas sofisticadas de exploração que operam nas fronteiras das políticas existentes.

    Como se proteger de deepfakes maliciosos

    A proteção contra deepfakes maliciosos requer vigilância pessoal e conscientização sobre os riscos. O caso de Alice demonstra vulnerabilidades e estratégias de resposta. Para proteção individual:

    • Monitoramento regular: Busque periodicamente por seu nome e imagem em diferentes plataformas.
    • Configurações de privacidade: Limite a visibilidade de fotos e vídeos em perfis públicos.
    • Denúncias persistentes: Não desista após respostas automáticas negativas das plataformas.
    • Documentação: Mantenha registros de contas falsas e tentativas de contato.

    Alice enviou mensagens diretas diversas vezes para a conta falsa, informando ser menor de idade, mas não obteve resposta. A persistência na denúncia formal às plataformas mostrou-se mais efetiva. Para a comunidade, a proteção envolve educação sobre deepfakes, apoio às vítimas e pressão por políticas melhores, exigindo que plataformas aprimorem seus sistemas de detecção.

    A intervenção de veículos de comunicação pode ser mais efetiva que canais tradicionais de denúncia, sugerindo que a exposição pública continua sendo uma ferramenta importante para combater essas práticas exploratórias.