Pesquisadores propõem seis dimensões para medir a confiabilidade da IA em humanos, instituições e máquinas
Um novo estudo das universidades Ruhr de Bochum e Técnica de Dortmund traz um caminho prático para entender a confiabilidade da IA. Assinado por Carina Newen, Emmanuel Müller e Albert Newen e publicado na revista Topoi, o trabalho propõe um modelo com seis dimensões de confiabilidade aplicáveis a pessoas, instituições, máquinas e sistemas de inteligência artificial.
Os autores partem do problema hoje mais evidente: modelos de linguagem conseguem responder quase qualquer pergunta, mas frequentemente o fazem de maneira imprecisa. Para enfrentar isso, a proposta tenta oferecer critérios que ajudem usuários, desenvolvedores e reguladores a avaliar quando e em que grau um sistema deve ser considerado confiável.
Por que a confiabilidade da IA é um problema real
Do ponto de vista técnico, a falta de transparência é apontada como um dos maiores entraves. Como disse Emmanuel Müller, “o deep learning faz coisas impressionantes, mas seus processos ainda são uma caixa-preta”. Essa opacidade dificulta entender por que um modelo toma determinada decisão, e alimenta riscos de confiança excessiva por parte dos usuários.
Além disso, Carina Newen destaca que “vieses presentes em dados de treinamento são facilmente reproduzidos”. Quando um modelo replica preconceitos ou erros presentes nos dados, sua utilidade prática e ética fica comprometida, reduzindo a confiabilidade da IA em contextos sensíveis.
Na perspectiva filosófica, Albert Newen chama a atenção para respostas que parecem corretas, mas podem ser enganosas. Em suas palavras, “sistemas como o ChatGPT podem gerar respostas convincentes, mas imprecisas, reforçando a necessidade de uso crítico”. Para o autor, estabelecer vínculos de confiança com chatbots pode ser perigoso, porque esses sistemas não têm obrigações reais com o usuário.
O que engloba o modelo de seis dimensões
O estudo não apenas coloca o problema, ele organiza critérios. As seis dimensões servem como um mapa conceitual para avaliar aspectos como transparência, precisão, robustez, justiça diante de vieses, responsabilidade institucional e sensibilidade ao contexto de uso.
Ao distribuir essas dimensões entre agentes humanos, organizações e máquinas, a abordagem permite comparar formas diferentes de confiabilidade e torna a avaliação menos ad hoc. Em vez de perguntar apenas se um sistema “funciona”, o modelo ajuda a identificar em que situações específicas aquela confiança é justificada, e onde é preciso cautela.
Como aplicar o método na prática
Para usuários e desenvolvedores, a proposta funciona como uma check-list reflexiva. Primeiro, avaliar a transparência — há explicações sobre como o sistema gera respostas? Depois, checar a precisão e a robustez a entradas inesperadas. Também é essencial investigar a presença de vieses nos dados e nas saídas, e se existem mecanismos institucionais de responsabilização.
O modelo ainda orienta sobre o papel do contexto: uma aplicação clínica exige padrões de confiabilidade muito diferentes de um assistente de escrita. Por fim, a análise propõe que confiança não é uma característica binária, mas um gradiente que depende de múltiplos fatores.
Além do aspecto técnico, o estudo lembra que comunicação clara com o público é fundamental. Leandro Criscuolo e Layse Ventura, jornalistas que cobrem tecnologia, ressaltam a necessidade de explicar riscos e limites das ferramentas, para evitar tanto o pânico quanto a aceitação acrítica.
Em suma, a proposta dos pesquisadores da Ruhr de Bochum e da Técnica de Dortmund oferece um quadro teoricamente sólido e aplicado para medir a confiabilidade da IA. A adoção de critérios claros pode reduzir erros, mitigar vieses e orientar políticas públicas, enquanto o uso crítico por parte dos usuários contribui para um ecossistema de IA mais seguro e transparente.
O estudo na Topoi representa, assim, um passo importante na construção de referências que permitam saber quando e como confiar em sistemas cada vez mais presentes no cotidiano.
Deixe um comentário