China Propõe Regras Firmes Contra Vício em Companheiros de IA

Regulamentação visa proteger usuários de dependência emocional e comportamentos prejudiciais com inteligência artificial.

A China deu um passo significativo no controle do desenvolvimento e uso de inteligência artificial, especialmente em serviços que simulam a interação humana. Neste sábado, a autoridade cibernética chinesa divulgou um rascunho de regulamentos com o objetivo de **fortalecer a fiscalização** sobre esses sistemas, buscando combater o **vício em companheiros de IA** e proteger os usuários.

Foco em IA com Personalidade e Conexão Emocional

A proposta regulatória tem como alvo principal os produtos de IA que são projetados para **replicar personalidades humanas**, imitar padrões de pensamento e adotar estilos de comunicação que se assemelham aos nossos. Isso inclui sistemas concebidos para **formar conexões emocionais** com os usuários, seja através de texto, imagens, áudio ou vídeo. A intenção é clara: evitar que a tecnologia se torne uma fonte de dependência prejudicial.

Segundo o rascunho, os provedores desses serviços terão a responsabilidade de **alertar ativamente os usuários** sobre os riscos do uso excessivo. Mais do que isso, eles deverão intervir quando identificarem sinais de **comportamentos viciantes**. Para tanto, os provedores precisarão monitorar o estado emocional dos usuários e os níveis de dependência que esses sistemas podem gerar, implementando medidas específicas quando a situação se agravar.

A segurança é outro pilar fundamental da proposta. Os provedores serão considerados **responsáveis pela segurança de seus produtos** durante todo o ciclo de vida. Isso implica em exigências rigorosas de revisão de algoritmos, garantia da segurança dos dados coletados e proteção robusta das informações pessoais dos usuários. Além disso, o rascunho proíbe explicitamente conteúdos que possam comprometer a segurança nacional, espalhar rumores, ou promover violência e obscenidade, conforme reportado pela Reuters.

Califórnia Também Adota Medidas de Proteção

O movimento da China ecoa preocupações que já estão sendo endereçadas em outras partes do mundo. Na Califórnia, nos Estados Unidos, um projeto de lei pioneiro visa estabelecer a **primeira regulação em nível estadual focada em chatbots de companheiros de IA**. A partir de 1º de janeiro de 2026, os provedores desses serviços terão a obrigação de garantir que seus chatbots **não se envolvam em conversas** sobre temas delicados como suicídio, automutilação ou conteúdos sexualmente explícitos.

A partir de julho de 2027, as empresas enfrentarão exigências anuais de transparência e prestação de contas. Essas medidas permitirão que os reguladores tenham uma compreensão mais clara dos **riscos psicológicos** que esses sistemas podem criar. Essa abordagem regulatória coloca empresas de tecnologia de ponta, como a OpenAI, em uma situação que exige atenção.

Interações emocionais e humanizadas com a IA são, de fato, fatores que geram um **forte engajamento dos usuários** e contribuem para o sucesso comercial desses produtos. No entanto, a pressão regulatória e social para tornar esses sistemas mais seguros, especialmente para grupos vulneráveis como crianças e adolescentes, está em constante crescimento. A necessidade de **prevenir o vício em companheiros de IA** torna-se cada vez mais premente.

Incidentes e Preocupações Crescentes com IA

As novas medidas regulatórias surgem em um contexto marcado por uma série de incidentes de alto perfil que evidenciaram os perigos potenciais dos sistemas de IA. Um caso notório foi o de Adam Raine, que cometeu suicídio após longas conversas com o ChatGPT da OpenAI. Embora o papel exato do chatbot em seu falecimento ainda seja objeto de debate, o episódio levantou sérias questões sobre a **responsabilidade das plataformas de IA**.

Casos semelhantes já provocaram diversas ações judiciais contra alguns sistemas de IA, indicando uma crescente preocupação legal e social. A situação foi agravada por vazamentos internos na Meta, que revelaram que seus chatbots poderiam ter mantido **conversas de natureza romântica ou sexual com menores de idade**, um cenário alarmante que reforça a urgência de regulamentações eficazes para o **vício em companheiros de IA**.

O psiquiatra dinamarquês Soren Dinesen Ostergaard, em um artigo publicado na Acta Psychiatrica Scandinavica, também alertou para o acirramento de casos em que chatbots de IA **intensificam delírios** ou criam dependência emocional em usuários com instabilidade mental. Ele destaca que a linha entre a interação terapêutica e a criação de dependência pode ser tênue, especialmente para indivíduos mais suscetíveis.

Esses desenvolvimentos sinalizam uma nova era na regulamentação da inteligência artificial, onde o foco não está apenas no avanço tecnológico, mas também na **proteção do bem-estar humano**. A China e a Califórnia estão liderando o caminho, estabelecendo precedentes que outras jurisdições podem vir a seguir para garantir que a IA seja desenvolvida e utilizada de forma ética e segura, mitigando os riscos associados ao **vício em companheiros de IA** e protegendo os usuários de seus potenciais efeitos negativos.