Conselho Europeu propõe proibição de ferramentas de ‘nudificação’ no Ato de IA
O Conselho Europeu deu um passo significativo na regulamentação da inteligência artificial ao propor a inclusão de uma proibição explícita para ferramentas de ‘nudificação’ em sua versão emendada do Ato de IA. A medida visa combater a geração de conteúdo sexual e íntimo não consensual, bem como material de abuso sexual infantil.
A proposta, divulgada na sexta-feira, representa um avanço na simplificação do Ato de IA, o marco legislativo digital da União Europeia. A inclusão da proibição de ‘nudificação’ é uma resposta direta a incidentes recentes, como a geração de imagens íntimas não consensuais pelo chatbot Grok, que gerou repercussão global e levou a Comissão Europeia a investigar a plataforma X.
Novas diretrizes para dados e sistemas de alto risco
Além da proibição de ferramentas de ‘nudificação’, a proposta do Conselho Europeu introduz padrões mais rigorosos para o processamento de certas categorias de dados pessoais. Foi restabelecido o critério de estrita necessidade para o processamento de categorias especiais de dados pessoais, com o objetivo de garantir a detecção e correção de vieses em sistemas de IA.
Outras emendas propostas incluem a reintegração de uma regra que obriga os provedores a registrar sistemas de IA considerados de alto risco em um banco de dados da UE, caso sustentem que suas ofertas devam ser isentas das regulamentações aplicáveis a tais sistemas. A Comissão Europeia já havia proposto estender o prazo de entrada em vigor das regras para sistemas de IA de alto risco em até 16 meses e isentar mais pequenas empresas de algumas regulamentações.
Próximos passos e negociações
As emendas adicionais apresentadas pelo Conselho Europeu agora precisam ser debatidas e acordadas com o Parlamento Europeu. Membros do Parlamento Europeu já haviam aprovado uma proibição semelhante em sua própria proposta na quarta-feira, indicando uma forte probabilidade de que a medida seja incluída no plano negociado entre o Conselho e o Parlamento.
A iniciativa reflete o esforço contínuo da Europa em estabelecer um quadro regulatório robusto para a inteligência artificial, buscando equilibrar inovação com a proteção dos direitos fundamentais e a segurança dos cidadãos. A proposta de proibir ferramentas de ‘nudificação’ é um marco importante nessa direção, sinalizando uma tolerância zero para a criação e disseminação de conteúdo prejudicial gerado por IA.