Blog de IA

Tag: confiança

  • Evento aborda os desafios da construção de confiança em sistemas de inteligência artificial

    Evento aborda os desafios da construção de confiança em sistemas de inteligência artificial

    Seminário na USP investiga a complexa relação entre humanos e inteligência artificial

    A construção de confiança em sistemas de inteligência artificial (IA) é um dos desafios mais críticos da atualidade. Para aprofundar essa discussão, a rede Understanding Artificial Intelligence (UAI), ligada ao Instituto de Estudos Avançados (IEA) da USP, promoveu no dia 24 de março o seminário IA e Confiança. O evento, que contou com transmissão online e participação presencial, buscou esclarecer por que os mecanismos humanos de confiança, desenvolvidos para relações interpessoais, frequentemente falham quando aplicados a algoritmos.

    O palestrante principal foi David Levi, do Industry Partnerships Program Manager e Stanford Human-Centered Artificial Intelligence, dos Estados Unidos. Ele explorou as vulnerabilidades cognitivas que nos tornam suscetíveis a confiar de forma inadequada em IA, seja por excesso ou por falta de confiança. Levi também abordou o dilema entre criar agentes de IA que replicam fielmente comportamentos humanos ou versões aspiracionais que superam nossas capacidades.

    Compreendendo a psicologia por trás da confiança em IA

    Nossa psicologia evolutiva, moldada ao longo de milênios para avaliar interações humanas, pode nos levar a erros ao interagir com sistemas de IA. O seminário buscou desvendar como o design desses sistemas pode explorar essas vulnerabilidades, resultando em confiança mal calibrada.

    A questão de delegar autoridade e atribuir responsabilidade em decisões tomadas por IA foi central na discussão. O dilema do “gêmeo digital” levanta a ponderação sobre criar inteligências artificiais que espelhem nossas falhas ou que apresentem um potencial superior.

    Propostas para uma governança de IA mais eficaz

    David Levi defendeu uma mudança significativa na forma como a inteligência artificial é governada. Em vez de depender de relatos anedóticos de falhas, ele propôs a criação de observatórios sistemáticos. Esses observatórios teriam a função de monitorar padrões de desempenho, documentar incidentes de maneira rigorosa e fornecer dados concretos para aprimorar a segurança e a confiabilidade dos sistemas de IA.

    A necessidade de um monitoramento sistemático e rigoroso é fundamental para avançarmos na construção de confiança em sistemas de IA. Relatos isolados não são suficientes para garantir a segurança e a ética.

    Sobre a rede Understanding Artificial Intelligence (UAI)

    A rede UAI é uma iniciativa multidisciplinar e multidepartamental da USP, coordenada pela professora Veridiana Domingos Cordeiro, do Departamento de Sociologia da Filosofia, Letras e Ciências Humanas (FFLCH). Seu objetivo é reunir especialistas de diversas áreas para promover análises críticas sobre os impactos sociais, éticos, políticos e institucionais da inteligência artificial. O evento contou com comentários de Lucas Boscaini (Google) e a mediação da própria Veridiana Domingos Cordeiro.

    A organização do seminário teve a colaboração da U.S. Embassy and Consulates e da Cátedra IA Responsável, com o apoio do Center for Artificial Intelligence and Machine Learning (USP). As discussões foram realizadas em inglês, com tradução simultânea, e foram gratuitas e abertas ao público.

  • Consumidores preferem marcas que dizem não à inteligência artificial generativa

    Consumidores preferem marcas que dizem não à inteligência artificial generativa

    Consumidores preferem marcas que dizem não à inteligência artificial generativa

    Uma parcela significativa de consumidores demonstra preferência por marcas que optam por não utilizar inteligência artificial generativa em suas comunicações. Segundo uma pesquisa divulgada pela consultoria Gartner, metade dos entrevistados prefere interagir com empresas que não empregam essa tecnologia em publicidade, marketing e atendimento ao cliente. Este dado revela um cenário onde a crescente popularidade da IA não se traduz automaticamente em aceitação total por parte do público, especialmente quando aplicada diretamente na relação entre empresas e consumidores.

    A desconfiança em relação à veracidade de informações online é um dos principais motores dessa preferência. O estudo aponta que 61% dos consumidores questionam frequentemente a confiabilidade das informações usadas em seu dia a dia, enquanto 68% duvidam se os conteúdos que consomem são reais. Essa hesitação demonstra um ceticismo crescente que as empresas precisam considerar em suas estratégias.

    Crescente ceticismo impulsiona a desconfiança em conteúdos gerados por IA

    A popularização das ferramentas de IA generativa trouxe consigo um aumento na dificuldade de distinguir o real do artificial. Em outubro de 2025, a pesquisa do Gartner ouviu 1.539 consumidores nos Estados Unidos, evidenciando que a maioria se preocupa com a autenticidade do que consome. Essa preocupação se traduz em uma maior atenção à verificação de informações e à busca por fontes confiáveis.

    Para os profissionais de marketing, isso significa que a adoção de conteúdos gerados por IA deve ser tratada não apenas como uma decisão tecnológica, mas também como uma questão de confiança. A habilidade de verificar a autenticidade das informações tornou-se crucial para os consumidores, influenciando diretamente suas decisões de compra e sua percepção sobre as marcas.

    Mudança na percepção da veracidade das informações

    A forma como os consumidores avaliam a veracidade das informações está passando por uma transformação. A pesquisa do Gartner indicou que, até o final de 2025, apenas 27% dos entrevistados confiam em sua intuição para determinar se uma informação é verdadeira. Isso sugere uma tendência clara para a checagem independente e a verificação de dados antes de aceitar uma informação como factível.

    Portanto, marcas que optam por uma comunicação mais transparente e humana, mesmo que com menor uso de IA generativa, podem encontrar um terreno fértil para construir e manter a confiança de seus clientes. A autenticidade e a clareza na comunicação emergem como diferenciais importantes em um ambiente digital cada vez mais saturado de conteúdo.