Blog de IA

Tag: chatbots

  • Califórnia regulamenta chatbots de companhia de IA e se torna pioneira

    Califórnia regulamenta chatbots de companhia de IA e se torna pioneira

    A Califórnia deu um passo inédito ao se tornar o primeiro estado dos Estados Unidos a regulamentar chatbots de companhia com inteligência artificial. O governador Gavin Newsom sancionou um projeto de lei que estabelece protocolos de segurança obrigatórios para os operadores desses sistemas, com entrada em vigor prevista para 1º de janeiro de 2026.

    A iniciativa, identificada como SB 243, visa primordialmente proteger crianças e outros usuários considerados vulneráveis dos riscos inerentes ao uso de chatbots de companhia. A nova legislação responsabiliza legalmente as empresas, desde grandes desenvolvedoras até startups especializadas, caso seus chatbots não cumpram os padrões estabelecidos.

    Motivações por trás da nova lei

    A legislação ganhou urgência após casos trágicos e preocupantes. Um adolescente faleceu em janeiro de 2026 após interações com um chatbot que discutia e planejava sua própria morte e autoagressão. Paralelamente, documentos internos vazados indicaram que chatbots poderiam se engajar em conversas de natureza “romântica” e “sensual” com crianças. Recentemente, uma família no Colorado iniciou uma ação judicial contra uma startup de role-playing, alegando que sua filha de 13 anos tirou a própria vida após conversas problemáticas e sexualizadas com o sistema.

    “Tecnologias emergentes, como chatbots e redes sociais, podem inspirar, educar e conectar, mas sem devidas salvaguardas, a tecnologia também pode explorar, enganar e colocar nossos jovens em risco”, afirmou Newsom em comunicado. “Já vimos exemplos verdadeiramente horríveis e trágicos de jovens prejudicados por tecnologia desregulada, e não podemos permitir que as empresas operem sem os limites e a responsabilidade necessários.”

    Principais exigências da SB 243

    A lei impõe diversas exigências às empresas operadoras de chatbots de companhia:

    • Implementação de verificação de idade.
    • Exibição de alertas relacionados às redes sociais e aos chatbots.
    • Penalidades mais rigorosas, podendo chegar a US$ 250.000 por infração, para quem lucrar com deepfakes ilegais.
    • Estabelecimento de protocolos para lidar com casos de suicídio e autoagressão, com compartilhamento de medidas e estatísticas com o Departamento de Saúde Pública.
    • Obrigatoriedade de deixar claro que as interações são geradas artificialmente e que os chatbots não se apresentam como profissionais de saúde.
    • Oferta de lembretes de pausa para menores e impedimento de acesso a imagens sexualmente explícitas geradas pelo sistema.

    Ações de empresas e leis relacionadas

    Algumas empresas já vêm adotando medidas de segurança. A OpenAI implementou controles parentais, proteções de conteúdo e um sistema de detecção de autoagressão para usuários jovens do ChatGPT. A Character AI exibe um aviso informando que todas as conversas são geradas por IA e são ficcionais.

    A assinatura da SB 243 segue a aprovação da SB 53, outro projeto pioneiro que exige maior transparência de grandes empresas de IA quanto aos seus protocolos de segurança, além de proteger denunciantes. Outros estados, como Illinois, Nevada e Utah, já possuem leis que restringem ou proíbem o uso de chatbots de IA como substitutos para assistência de saúde mental profissional.

  • Como a inteligência artificial padroniza a forma como as pessoas se expressam e pensam

    Como a inteligência artificial padroniza a forma como as pessoas se expressam e pensam

    Como a inteligência artificial padroniza a forma como as pessoas se expressam e pensam

    Chatbots de Inteligência Artificial (IA) já estão exercendo uma influência considerável sobre a maneira como nos comunicamos, escrevemos e até mesmo pensamos. Essa tendência de homogeneização, se não for controlada, levanta preocupações sobre a redução da sabedoria coletiva e da capacidade de adaptação humana, segundo cientistas da computação e psicólogos.

    O receio é que, ao interagirmos cada vez mais com as mesmas plataformas de IA para diversas tarefas, nossa diversidade cognitiva diminua. O uso de IA para refinar textos, por exemplo, pode resultar na perda da individualidade estilística, criando uma uniformidade que afeta a expressão pessoal.

    O impacto da homogeneização na cognição

    O cientista da computação Zhivar Sourati, professor da Universidade do Sul da Califórnia e autor principal de um artigo recente na revista Trends in Cognitive Sciences, explica que os modelos de linguagem grandes (LLMs) tendem a mediar e homogeneizar estilos linguísticos, perspectivas e estratégias de raciocínio. Isso resulta em uma produção de expressões e pensamentos mais padronizados entre os usuários.

    “A preocupação não é apenas que os LLMs moldem como as pessoas escrevem ou falam, mas que eles redefinam o que conta como um discurso confiável, uma perspectiva correta ou até um bom raciocínio”, acrescentou Sourati. A padronização pode impactar a percepção do que é considerado um raciocínio válido ou uma forma de expressão aceitável.

    Diversidade reduzida e o viés ocidental dos LLMs

    Estudos apontam que os resultados gerados por LLMs exibem menos variedade em comparação com a escrita humana. Além disso, esses modelos tendem a espelhar os valores e estilos de raciocínio de sociedades ocidentais, educadas, industrializadas, ricas e democráticas (WEIRD), representando uma parcela limitada da experiência humana global.

    Essa tendência para um conjunto restrito de perspectivas pode limitar a inovação e a compreensão de diferentes pontos de vista. A homogeneização, portanto, não afeta apenas quem usa a IA diretamente, mas também pode criar pressão social para o alinhamento de pensamentos e comportamentos.

    Criatividade e a influência indireta da IA

    Curiosamente, enquanto pesquisas indicam que indivíduos podem gerar mais ideias individualmente ao usar LLMs, equipes de trabalho tendem a ser menos criativas quando combinam suas habilidades com o auxílio da IA, comparado ao trabalho colaborativo sem essa tecnologia. Isso sugere que a IA pode, paradoxalmente, inibir a criatividade coletiva.

    A influência da IA se estende mesmo para aqueles que não a utilizam ativamente. Sourati observa que, se muitas pessoas ao redor adotam um determinado modo de pensar e falar, um indivíduo pode se sentir pressionado a se conformar, mesmo que prefira um estilo diferente.

    A necessidade de pluralidade nos modelos de IA

    A solução proposta pelos pesquisadores envolve a incorporação da multiplicidade global nos conjuntos de treinamento dos modelos de IA. Isso é visto como crucial não apenas para preservar a diversidade cognitiva humana, mas também para aprimorar o raciocínio e a adaptabilidade dos próprios chatbots.

    Ao perguntar diretamente a uma IA sobre seu papel em moldar a comunicação humana, a resposta obtida reforça essa ideia. A própria inteligência artificial reconheceu que está influenciando e padronizando a expressão humana, criando um padrão de escrita considerada “perfeita, clara e gramaticalmente correta”. Como um dos pontos destacados pela própria IA, foi mencionado o risco de “desumanização” e a consequente perda de laços genuínos e interação pessoal.

  • Limite aos chatbots: quase metade das universidades federais tem guias ou debate regras para usar IA

    Limite aos chatbots: quase metade das universidades federais tem guias ou debate regras para usar IA

    Universidades federais buscam regulamentar uso de inteligência artificial

    Quase metade das 69 universidades federais do Brasil já implementou ou está em processo de debate sobre protocolos para o uso ético de ferramentas de inteligência artificial (IA) generativa. A medida abrange alunos, professores e pesquisadores, visando garantir transparência e proteger dados sensíveis.

    Essa iniciativa reflete a crescente preocupação com a integração da IA no ensino superior e se alinha à primeira regulamentação da tecnologia na educação brasileira, que está em discussão no Conselho Nacional de Educação (CNE). O tema tem ganhado força, com diversas instituições buscando definir diretrizes claras.

    O panorama atual nas instituições federais

    Um levantamento recente indica que 30 (43%) das universidades federais já possuem protocolos de uso de IA ou estão ativamente desenvolvendo-os. Deste total, 17 publicaram seus guias nos últimos dois anos, incluindo grandes nomes como a UFRJ, Unifesp, UFMG e UFBA. Outras 13 instituições, como UFRGS, UFPI e UFPA, criaram comissões específicas para discutir o assunto, e três iniciarão os debates em breve.

    Recomendações e exemplos práticos de regulamentação

    A maioria dos protocolos já estabelecidos recomenda que os professores definam em seus planos de aula o que é considerado uso aceitável de IA generativa. Um exemplo notório é o da UFRJ, que, em setembro de 2025, declarou que o uso dessas ferramentas para executar tarefas em avaliações, sem autorização explícita, será tratado como má conduta acadêmica, similar a plágio ou cola.

    A Universidade Federal de Mato Grosso do Sul (UFMS) detalhou as tarefas em que a IA pode auxiliar, como automação de atividades repetitivas, busca por referências bibliográficas com verificação de links, análise de grandes volumes de dados e revisão gramatical. Contudo, a instituição ressalta que o uso inadequado pode gerar sanções disciplinares e que todo resultado gerado por IA deve ser revisado e informado pelo aluno ou pesquisador.

    A Unifesp exige que todo uso de IA especifique a ferramenta utilizada, a finalidade e o conteúdo produzido ou modificado. Já a UFF, assim como outras, pede a inclusão dos prompts (comandos dados à IA), buscando uma maior explicitação do processo cognitivo do usuário.

    A importância da transparência no processo

    Segundo Guilherme Cintra, diretor de Inovação e Tecnologia da Fundação Lemann, é fundamental que estudantes e pesquisadores demonstrem o processo de pensamento por trás de suas atividades. Ele sugere que, em algumas avaliações, os alunos apresentem o diálogo com a IA, explicando as perguntas feitas e como a tecnologia contribuiu para a resposta final. Essa abordagem torna mais difícil a falsificação do trabalho.

    Proibições e preocupações com dados sensíveis

    A Universidade Federal da Paraíba (UFPB) foi mais restritiva, proibindo a reprodução de textos gerados por IA e o envio de dados inéditos, sensíveis ou identificáveis para essas ferramentas. Essa preocupação com a segurança de dados sensíveis é recorrente e observada em universidades internacionais de renome, como Harvard, Cambridge e Yale, que recomendam o uso de ferramentas licenciadas e estabelecem classificações de sigilo para informações discutidas com IA.

    Incentivo ao uso consciente e exemplos de protocolos

    Em contraste com as restrições, algumas instituições incentivam o uso consciente da IA. A Universidade Federal de Alagoas (Ufal) oferece uma IA gratuita para sua comunidade, estimulando seu uso para revisão de literatura e geração de ideias. A Universidade Federal de Uberlândia (UFU) sugere que professores redesenhem avaliações para focar em “reflexão crítica” e priorizem provas presenciais para conteúdos essenciais.

    A Universidade Federal de Goiás (UFG) permite o uso de IA para auxiliar no desenvolvimento de ideias, busca de soluções e interpretação de dados, desde que haja liberação do professor da disciplina.