IA erra: Descubra as causas das distorções em modelos de inteligência artificial

Pesquisa revela como simplificações e falta de dados geram vieses em sistemas de IA, afetando milhões de usuários diariamente.

A inteligência artificial (IA) se tornou uma ferramenta onipresente em nossas vidas, prometendo eficiência e avanços em diversas áreas. No entanto, o sucesso estrondoso de ferramentas como o ChatGPT, que em abril de 2025 alcançou a marca de 1 bilhão de usuários ativos semanais, também trouxe à tona preocupações sérias. Casos reais de modelos de IA que apresentaram falhas e causaram prejuízos a pacientes, mulheres e pessoas negras em contextos médicos e corporativos têm gerado alerta. Uma nova pesquisa, publicada na MIS Quarterly e destacada pelo TechXplore, mergulha nas origens dessas **distorções nos modelos de IA**, apontando a complexidade inerente a esses sistemas como um dos principais fatores.

O estudo, liderado pelo pesquisador John-Patrick Akinyemi da Texas McCombs, analisou 363 algoritmos que já haviam sido identificados como tendenciosos. Comparando-os com versões similares consideradas neutras, os pesquisadores buscaram entender por que sistemas aparentemente semelhantes podiam produzir resultados tão distintos e, em muitos casos, injustos. A conclusão central é que o **viés na IA** pode ser um artefato da própria complexidade dos modelos, e não necessariamente de outros fatores explicativos que vinham sendo propostos.

A ausência de uma “verdade fundamental” como raiz do viés

Um dos pontos cruciais identificados pela pesquisa é a dificuldade que os algoritmos enfrentam quando precisam tomar decisões em cenários onde nem mesmo especialistas humanos conseguem chegar a um consenso absoluto. A falta de uma **”verdade fundamental”** bem estabelecida em determinados domínios abre uma brecha significativa para o surgimento de vieses. Quando o sistema não tem uma base sólida e inequívoca para se guiar, a probabilidade de introduzir distorções aumenta consideravelmente.

Isso se torna particularmente problemático em áreas onde a subjetividade e a interpretação são inerentes. Por exemplo, a pesquisa menciona o dilema de algoritmos decidirem sobre a adequação de um candidato a uma vaga de emprego, ou mesmo avaliarem a probabilidade de um paciente responder a um determinado tratamento. Em situações onde não há uma resposta única e objetiva, a IA pode acabar replicando ou até amplificando preconceitos existentes na sociedade, mesmo que de forma não intencional.

Ignorando a complexidade do mundo real: simplificações que geram distorções

Para que os modelos de IA funcionem de maneira eficiente, eles frequentemente precisam **simplificar situações complexas** do mundo real. No entanto, essa simplificação excessiva pode levar a distorções graves e consequências prejudiciais. Um exemplo citado no estudo é o caso do Arkansas, que decidiu substituir visitas de enfermeiros por decisões automatizadas no programa Medicaid. A premissa era otimizar recursos, mas a realidade mostrou outra face.

Ao **ignorar variáveis importantes** que só poderiam ser captadas em uma interação humana e presencial, o sistema automatizado acabou por prejudicar pessoas com deficiência, que perderam acesso a suporte básico. O algoritmo, em sua tentativa de simplificar, não conseguiu representar adequadamente a complexidade das necessidades e da realidade de quem dependia dessa assistência. Essa falha demonstra como a **simplificação excessiva nos modelos de IA** pode ter um impacto direto e negativo na vida das pessoas.

Falta de diversidade no desenvolvimento: um ponto cego para a equidade

A pesquisa também aponta a **falta de diversidade no desenvolvimento de sistemas de IA** como um fator significativo para o aumento de vieses. Quando os modelos, destinados a serem utilizados por populações diversas, são criados predominantemente por um único grupo demográfico, é natural que certas perspectivas e necessidades sejam negligenciadas. Essa homogeneidade na equipe de desenvolvimento pode criar **pontos cegos** que se refletem diretamente nos algoritmos.

O estudo reforça a importância de envolver uma ampla gama de partes interessadas no processo de criação e validação da IA. A inclusão de diferentes grupos demográficos e especialistas de diversas áreas ajuda a identificar expectativas conflitantes e a construir soluções mais equilibradas e representativas para todos. Garantir que a **diversidade no desenvolvimento da IA** seja uma prioridade é essencial para mitigar vieses e promover a equidade.

Para reduzir os vieses na IA, a pesquisa sugere caminhos que vão além do mero aumento da precisão dos modelos. É fundamental lidar com a **realidade de forma completa**, incorporando as nuances e complexidades do mundo. Os pesquisadores enfatizam que os modelos devem ser utilizados para automatizar apenas tarefas baseadas em verdades bem definidas. Além disso, é essencial incluir variáveis que representem adequadamente pessoas e contextos reais, e garantir a diversidade nas equipes de desenvolvimento.

Segundo Tanriverdi, essas são as peças que faltam e que os cientistas de dados parecem estar procurando. Tornar a IA mais justa exige uma compreensão profunda do mundo real em toda a sua complexidade e a inclusão de todas as pessoas afetadas por essas tecnologias. Ao abordar essas questões, podemos caminhar em direção a sistemas de inteligência artificial mais equitativos e benéficos para a sociedade como um todo.