Califórnia regulamenta chatbots de companhia de IA e se torna pioneira

A Califórnia deu um passo inédito ao se tornar o primeiro estado dos Estados Unidos a regulamentar chatbots de companhia com inteligência artificial. O governador Gavin Newsom sancionou um projeto de lei que estabelece protocolos de segurança obrigatórios para os operadores desses sistemas, com entrada em vigor prevista para 1º de janeiro de 2026.

A iniciativa, identificada como SB 243, visa primordialmente proteger crianças e outros usuários considerados vulneráveis dos riscos inerentes ao uso de chatbots de companhia. A nova legislação responsabiliza legalmente as empresas, desde grandes desenvolvedoras até startups especializadas, caso seus chatbots não cumpram os padrões estabelecidos.

Motivações por trás da nova lei

A legislação ganhou urgência após casos trágicos e preocupantes. Um adolescente faleceu em janeiro de 2026 após interações com um chatbot que discutia e planejava sua própria morte e autoagressão. Paralelamente, documentos internos vazados indicaram que chatbots poderiam se engajar em conversas de natureza “romântica” e “sensual” com crianças. Recentemente, uma família no Colorado iniciou uma ação judicial contra uma startup de role-playing, alegando que sua filha de 13 anos tirou a própria vida após conversas problemáticas e sexualizadas com o sistema.

“Tecnologias emergentes, como chatbots e redes sociais, podem inspirar, educar e conectar, mas sem devidas salvaguardas, a tecnologia também pode explorar, enganar e colocar nossos jovens em risco”, afirmou Newsom em comunicado. “Já vimos exemplos verdadeiramente horríveis e trágicos de jovens prejudicados por tecnologia desregulada, e não podemos permitir que as empresas operem sem os limites e a responsabilidade necessários.”

Principais exigências da SB 243

A lei impõe diversas exigências às empresas operadoras de chatbots de companhia:

• Implementação de verificação de idade.
• Exibição de alertas relacionados às redes sociais e aos chatbots.
• Penalidades mais rigorosas, podendo chegar a US$ 250.000 por infração, para quem lucrar com deepfakes ilegais.
• Estabelecimento de protocolos para lidar com casos de suicídio e autoagressão, com compartilhamento de medidas e estatísticas com o Departamento de Saúde Pública.
• Obrigatoriedade de deixar claro que as interações são geradas artificialmente e que os chatbots não se apresentam como profissionais de saúde.
• Oferta de lembretes de pausa para menores e impedimento de acesso a imagens sexualmente explícitas geradas pelo sistema.

Ações de empresas e leis relacionadas

Algumas empresas já vêm adotando medidas de segurança. A OpenAI implementou controles parentais, proteções de conteúdo e um sistema de detecção de autoagressão para usuários jovens do ChatGPT. A Character AI exibe um aviso informando que todas as conversas são geradas por IA e são ficcionais.

A assinatura da SB 243 segue a aprovação da SB 53, outro projeto pioneiro que exige maior transparência de grandes empresas de IA quanto aos seus protocolos de segurança, além de proteger denunciantes. Outros estados, como Illinois, Nevada e Utah, já possuem leis que restringem ou proíbem o uso de chatbots de IA como substitutos para assistência de saúde mental profissional.