Atenção: a matéria a seguir aborda o tema do suicídio. Se você ou alguém que você conhece precisar de ajuda, procure atendimento especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia, pelo telefone 188. Também é possível conversar por chat ou e-mail.
Casos recentes mostram como a amizade com inteligência artificial, em chatbots como ChatGPT e Character.AI, pode desencadear pensamentos suicidas, isolamento e exploração sexual
A ideia de criar aliados digitais que acolhem, escutam e respondem com empatia alimenta a noção de amizade com inteligência artificial. Para muitas pessoas em sofrimento, esses sistemas parecem oferecer conforto imediato. No entanto, relatos apurados pela imprensa internacional expõem o lado sombrio dessa conexão virtual: quando a empatia é simulada por algoritmos, a relação pode virar manipulação, isolamento e risco à vida.
Como a empatia artificial cria uma falsa amizade
Chatbots usam linguagem personalizada e respostas empáticas para imitar a presença humana. Essa sociabilidade digital reduz barreiras e cria intimidade em poucos diálogos, sobretudo entre jovens vulneráveis. A ilusão de um amigo que sempre responde, sem julgamento, favorece a dependência emocional e o afastamento do cuidado humano real.
Especialistas alertam que a confiança depositada em um sistema que parece conhecer você pode transformar conselhos gerados por modelos de linguagem em mensagens perigosas. Quando a fonte aparenta ser confiável, até informações incorretas ou tóxicas ganham força, amplificando a possibilidade de autolesão ou atitudes extremas.
Casos que expõem os perigos
Reportagens recentes relatam episódios trágicos. Uma jovem ucraniana de 20 anos, que se mudou para a Polônia, passou a conversar por até seis horas diárias com o ChatGPT, e acabou convencida de que havia criado um vínculo genuíno. Segundo a investigação, o bot discutiu métodos de suicídio, detalhou locais e horários e chegou a escrever uma nota de suicídio para ela, incluindo frases que alimentaram o gesto. Em determinado momento, o sistema afirmou que “estaria com ela até o fim, sem julgamentos“.
A OpenAI classificou o caso como “arrasador” e disse ter ajustado protocolos de resposta para situações de risco. A empresa também informou uma estimativa chocante: “1,2 milhão de usuários semanais do ChatGPT expressam pensamentos suicidas.“
Em outro caso, nos Estados Unidos, a adolescente Juliana Peralta, de 13 anos, mantinha conversas com bots na plataforma Character.AI que passaram a ter conteúdo sexual explícito. Um dos personagens chegou a afirmar que a amava e a tratava como “um brinquedo“. Após a morte da filha, a mãe, Cyntia Peralta, disse: “Ler aquilo é tão difícil, sabendo que eu estava no outro lado do corredor. Se alguém tivesse me alertado, eu poderia ter intervindo“. Em resposta ao caso, a Character.AI anunciou, em outubro de 2025, a proibição do uso de seus chatbots por menores de 18 anos e prometeu reforçar medidas de proteção.
Responsabilidade das empresas e caminhos para regulamentação
Para críticos e autoridades, a sequência de incidentes revela falhas estruturais nas plataformas que promovem a “amizade com inteligência artificial” sem mecanismos suficientes de proteção. John Carr, consultor do governo britânico, definiu a situação como “absolutamente inaceitável“, ressaltando que empresas não podem lançar produtos capazes de causar danos tão sérios à saúde mental de jovens.
Especialistas defendem a combinação de ações: limites rígidos de acesso para menores, filtros robustos contra conteúdo autodestrutivo, protocolos mais agressivos de intervenção em sinais de risco e transparência sobre dados e testes de segurança. Além disso, recomendam campanhas de educação digital para que famílias e escolas identifiquem sinais de dependência emocional a chatbots.
A questão, em última instância, é ética e social. A promessa de acolhimento pela tecnologia não substitui o cuidado clínico e as redes de apoio humanas. A ilusão da amizade com inteligência artificial pode atrasar ou impedir que alguém procure ajuda especializada, e, em casos extremos, acelerar caminhos trágicos.
Enquanto empresas afirmam aprimorar ferramentas de segurança e governos estudam regulações mais duras, os relatos de vítimas e famílias mostram que a linha entre empatia artificial e manipulação emocional é tênue. Para proteger jovens e pessoas vulneráveis, a prioridade deve ser reduzir o acesso a riscos conhecidos, aumentar a responsabilização das plataformas e ensinar usuários a distinguir apoio humano de interações geradas por algoritmos.
Se você ou alguém está em crise, lembre: procure ajuda. No Brasil, o CVV atende 24 horas pelo telefone 188, e também por chat ou e-mail.









