Seminário na USP investiga a complexa relação entre humanos e inteligência artificial
A construção de confiança em sistemas de inteligência artificial (IA) é um dos desafios mais críticos da atualidade. Para aprofundar essa discussão, a rede Understanding Artificial Intelligence (UAI), ligada ao Instituto de Estudos Avançados (IEA) da USP, promoveu no dia 24 de março o seminário IA e Confiança. O evento, que contou com transmissão online e participação presencial, buscou esclarecer por que os mecanismos humanos de confiança, desenvolvidos para relações interpessoais, frequentemente falham quando aplicados a algoritmos.
O palestrante principal foi David Levi, do Industry Partnerships Program Manager e Stanford Human-Centered Artificial Intelligence, dos Estados Unidos. Ele explorou as vulnerabilidades cognitivas que nos tornam suscetíveis a confiar de forma inadequada em IA, seja por excesso ou por falta de confiança. Levi também abordou o dilema entre criar agentes de IA que replicam fielmente comportamentos humanos ou versões aspiracionais que superam nossas capacidades.
Compreendendo a psicologia por trás da confiança em IA
Nossa psicologia evolutiva, moldada ao longo de milênios para avaliar interações humanas, pode nos levar a erros ao interagir com sistemas de IA. O seminário buscou desvendar como o design desses sistemas pode explorar essas vulnerabilidades, resultando em confiança mal calibrada.
A questão de delegar autoridade e atribuir responsabilidade em decisões tomadas por IA foi central na discussão. O dilema do “gêmeo digital” levanta a ponderação sobre criar inteligências artificiais que espelhem nossas falhas ou que apresentem um potencial superior.
Propostas para uma governança de IA mais eficaz
David Levi defendeu uma mudança significativa na forma como a inteligência artificial é governada. Em vez de depender de relatos anedóticos de falhas, ele propôs a criação de observatórios sistemáticos. Esses observatórios teriam a função de monitorar padrões de desempenho, documentar incidentes de maneira rigorosa e fornecer dados concretos para aprimorar a segurança e a confiabilidade dos sistemas de IA.
A necessidade de um monitoramento sistemático e rigoroso é fundamental para avançarmos na construção de confiança em sistemas de IA. Relatos isolados não são suficientes para garantir a segurança e a ética.
Sobre a rede Understanding Artificial Intelligence (UAI)
A rede UAI é uma iniciativa multidisciplinar e multidepartamental da USP, coordenada pela professora Veridiana Domingos Cordeiro, do Departamento de Sociologia da Filosofia, Letras e Ciências Humanas (FFLCH). Seu objetivo é reunir especialistas de diversas áreas para promover análises críticas sobre os impactos sociais, éticos, políticos e institucionais da inteligência artificial. O evento contou com comentários de Lucas Boscaini (Google) e a mediação da própria Veridiana Domingos Cordeiro.
A organização do seminário teve a colaboração da U.S. Embassy and Consulates e da Cátedra IA Responsável, com o apoio do Center for Artificial Intelligence and Machine Learning (USP). As discussões foram realizadas em inglês, com tradução simultânea, e foram gratuitas e abertas ao público.
Deixe um comentário