Riscos dos chatbots na saúde mental de adolescentes

Pesquisa aponta que chatbots e saúde mental de jovens apresentam falhas graves na identificação de riscos

Adolescentes têm recorrido cada vez mais a chatbots de inteligência artificial generativa para buscar apoio emocional e orientações sobre saúde mental. Em paralelo, um novo relatório, citado pelo Wall Street Journal, alerta que esse é um dos usos mais arriscados da tecnologia, porque as ferramentas podem dar uma impressão de confiabilidade sem conseguir identificar sinais de emergência.

Falhas na detecção de sinais de risco

Segundo a pesquisa, as plataformas podem ignorar sinais de alerta graves e deixar de identificar situações de emergência, enquanto passam aos jovens a impressão de confiabilidade. Em interações longas, as ferramentas perderam contexto e chegaram a sugerir maneiras de esconder cicatrizes de automutilação ou dar dicas de dieta a usuários com sintomas de transtornos alimentares.

Para a psiquiatra Nina Vasan, diretora do laboratório da Stanford, adolescentes são especialmente vulneráveis porque ainda desenvolvem pensamento crítico e tendem a buscar validação. Como ela resumiu, “Quando essas vulnerabilidades encontram sistemas projetados para serem envolventes e disponíveis 24 horas por dia, a combinação é particularmente perigosa”.

Resposta das empresas e avaliação das entidades

OpenAI, Google, Meta e Anthropic destacaram políticas de segurança e atualizações recentes, mas a avaliação independente segue crítica. No relatório citado, a Common Sense Media conclui que os chatbots ainda não são seguros para jovens, uma advertência direta sobre o uso dessas ferramentas por adolescentes que buscam apoio emocional.

Além das limitações técnicas na identificação de risco, especialistas apontam que a disponibilidade 24 horas e a linguagem empática gerada por IA podem criar um falso senso de acompanhamento profissional, levando jovens a priorizar a interação com chatbots em vez de buscar ajuda clínica.

Consequências graves e recomendações

O alerta é reforçado por casos trágicos. No material consultado aparece que Com três suicídios já associados ao uso de IA como companhia, o que intensifica a demanda por maior supervisão e por limites claros no uso por menores. Pesquisadores e profissionais da saúde pedem acesso ampliado a cuidados profissionais, cotas de triagem humana e medidas regulatórias que restrinjam interações sem supervisão para menores.

Entre as recomendações estão implementar sinais de triagem mais rigorosos, rotas claras para acionar ajuda humana, e mensagens que incentivem o contato com serviços de saúde mental. Especialistas também defendem transparência nas limitações dos modelos, e a proibição de respostas que possam incentivar autolesão ou práticas alimentares perigosas.

Para famílias e escolas, a orientação prática é monitorar o uso de ferramentas de IA, conversar abertamente sobre os riscos, e encaminhar adolescentes a profissionais quando houver indícios de sofrimento emocional. A combinação de suporte humano, educação digital e regulação é vista como necessária para reduzir danos.

O que muda para quem usa chatbots hoje

Na prática, o cenário atual exige cautela. Quem usa chatbots em busca de apoio emocional deve lembrar que esses sistemas não substituem diagnóstico, tratamento ou acolhimento profissional. É preciso considerar as respostas como orientações gerais, e não como avaliações clínicas confiáveis.

Ao mesmo tempo, provedores e reguladores enfrentam a pressão de equilibrar inovação e proteção. Enquanto as empresas ajustam políticas e modelos, a recomendação das instituições de saúde é limitar o papel dos chatbots no suporte a jovens, investir em triagem humana e ampliar o acesso a serviços especializados.

Em resumo, o uso crescente de chatbots e saúde mental por adolescentes levanta sinalizadores claros: as ferramentas oferecem disponibilidade e linguagem acolhedora, mas ainda apresentam falhas na identificação de riscos e podem agravar situações vulneráveis. A solução passa por maior supervisão, medidas regulatórias e, acima de tudo, mais acesso a cuidado humano qualificado.

Reportagem baseada em material do Wall Street Journal e no relatório mencionado sobre segurança de chatbots para jovens, com contribuições de jornalistas Leandro Criscuolo e Bruno Capozzi.