O viés na inteligência artificial: um espelho das desigualdades históricas
A inteligência artificial (IA) aprende com o que é documentado. Quando a base de conhecimento que alimenta esses algoritmos reflete a sub-representação e a falta de dados sobre a realidade feminina, o resultado é a escala de desigualdades históricas. O que não é medido ou documentado, a IA não reconhece, tornando crucial a urgência de uma governança de dados inclusiva para garantir que a tecnologia não perpetue a invisibilidade feminina.
A medida que a IA generativa se consolida como a principal forma de busca por informações, existe o risco iminente de desaparecimento de saberes locais e tradicionais. Ao aprender e reciclar o que ela mesma popularizou, a IA pode levar a um colapso do conhecimento e a um estreitamento do que é considerado verdade ou relevante. Esse ciclo vicioso fortalece o que é mais repetido, marginalizando ainda mais o que já era pouco visível.
O homem como padrão: um viés com consequências reais
A leitura de obras como “Invisible Women: Exposing Data Bias in a World Designed for Men”, de Caroline Criado Perez, revela uma conclusão preocupante: a ausência de dados ou a presença de dados enviesados leva a decisões baseadas em suposições, e a IA apenas amplifica essas falhas. A noção do homem como padrão ‘default’ permeia diversas áreas, desde o design até a medicina, e agora se manifesta nos algoritmos.
Um exemplo notório é a segurança automotiva. Testes e modelagens de impacto são frequentemente baseados no corpo masculino como referência. Essa padronização resulta em itens de segurança, como cintos e airbags, menos eficazes para o corpo feminino. Estatísticas indicam que mulheres têm significativamente mais chances de sofrer ferimentos graves ou morrer em acidentes, uma consequência direta de um design que não as considera.
A medicina e o “Yentl syndrome”: sintomas femininos ignorados
Na medicina, a história se repete. O corpo masculino historicamente serviu como referência, levando à cunhagem do termo “Yentl syndrome” para descrever como mulheres muitas vezes recebem cuidados menos agressivos, a menos que apresentem sintomas considerados “clássicos” – ou seja, os mais estudados em homens. No caso de infartos, por exemplo, sintomas como falta de ar, náusea ou fadiga, menos associados ao quadro em homens, podem ser rotulados como “atípicos”, resultando em diagnósticos tardios e desfechos piores para as mulheres.
Essa defasagem ocorre porque mulheres, que representam cerca de metade da população global, foram historicamente sub-representadas em pesquisas clínicas, testes de produto e bancos de dados. A raiz do problema não é a falta de casos, mas sim a falta de dados bem coletados, recortes adequados, critérios que considerem realidades diversas e a ausência de mulheres na definição das perguntas e indicadores.
Dados inclusivos: a infraestrutura crítica para uma IA robusta
A IA, por si só, não cria conhecimento; ela aprende com o que está acessível. Se a documentação existente exclui mulheres, generaliza o corpo masculino como “humano” ou trata sintomas femininos como “atípicos”, a IA inevitavelmente reproduzirá e ampliará esses vieses. O ciclo de retroalimentação, onde o conteúdo gerado pela IA retroalimenta a própria internet, pode intensificar esse problema, transformando a IA em um megafone do que já é desigual.
Para que a IA seja uma ferramenta útil na tomada de decisão, e não apenas convincente, é fundamental tratar documentação e dados como infraestrutura crítica. Isso implica em implementar governança e representatividade como métodos essenciais. Sem dados segmentados por sexo, gênero e etnia, decisões robustas são impossíveis. O “neutro” muitas vezes esconde um viés masculino não declarado.
Governança e representatividade: o caminho para a visibilidade
Uma governança de conhecimento eficaz questiona o que entra nos repositórios de dados, quais fontes são utilizadas, como os dados são atualizados e auditados. A representatividade, por sua vez, não é um slogan, mas um método. Quando mulheres participam ativamente da pesquisa, da tomada de decisão e da produção de conhecimento, elas deixam de ser invisíveis nos dados.
Em suma, a IA precisa citar, rastrear e justificar suas origens e fontes de informação. Respostas sem procedência confiável representam um risco para a tomada de decisão. O que está em jogo é a qualidade do mundo que a tecnologia ajudará a construir. A IA só resolverá os problemas para os quais tivermos a coragem de medir, registrar e tornar visível.