A baixa diversidade em IA e o preconceito contra as mulheres 

5 de abril de 2022 - 9h46

A participação limitada das mulheres no setor de IA amplia o preconceito que os próprios sistemas e programas podem ter contra elas, já que grande parte deles foi desenvolvida por uma equipe pouco diversa (Crédito: Shutterstock)

Em 2014, um time de engenheiros de software da Amazon estava construindo um programa para analisar currículos de candidatos a vagas na empresa. No ano seguinte, a equipe se deu conta de que o sistema discriminava mulheres. Os modelos computacionais eram treinados para barrar inscrições com base em padrões de currículos enviados à empresa durante um período de dez anos. Como a maioria deles eram de homens, o sistema ensinou a si próprio que candidatos masculinos eram melhores.  

O caso é revelador das dificuldades encontradas por mulheres que atuam nas áreas de Inteligência Artificial e Ciência de Dados ao redor do mundo. Além de serem minoria no mercado de tecnologia, o que em si já é um dado de desigualdade de gênero – no Brasil, a média de mulheres no mercado de tecnologia é de 20%, segundo a Associação Brasileira das Empresas de Tecnologia (Brasscom)  –, sua participação limitada no setor amplia o preconceito que os próprios sistemas e programas podem ter contra elas, já que grande parte deles foi desenvolvida por uma equipe pouco diversa.  

Segundo o Fórum Econômico Mundial, apenas 22% dos profissionais de Inteligência Artificial ao redor mundo são mulheres, enquanto 78% são homens. No Brasil, elas representam cerca de 17% do total de programadores, segundo a UNESCO.  

O reflexo dessa baixa participação das mulheres no setor de tecnologia tem sido cada vez mais debatido. Em um artigo publicado recentemente, lideranças da organização sem fins lucrativos Women in AI (WAI) argumentam que, se a presença feminina no setor se mantiver baixa, isso pode impactar negativamente na criação de sistemas confiáveis para o futuro. “A Inteligência Artificial que foi treinada em base de dados que apagaram as contribuições de mulheres e minorias não pode magicamente ver e valorizar o que não está lá. Para treinar nossos sistemas de IA para serem guardiões eficientes do nosso contexto cultural, nós precisamos treinar a próxima geração de seres humanos a enxergar com uma lente ética, para identificar e denunciar os vieses”, diz Suzanna Raj, conselheira da Intelligent Voices of Wisdom (IVOW), organização que busca preservar a cultura e a história por meio da IA. 

Além do episódio da Amazon, há outros casos que mostram como esse viés pode se manifestar por meio da Inteligência Artificial. A tecnologia de reconhecimento facial, por exemplo, tem sido questionada por legisladores e especialistas em políticas públicas nos últimos anos por serem menos precisas ao abordar mulheres e pessoas negras.  

Mulheres negras 

Um estudo do National Institute of Standards and Technology (NIST) publicado em 2019 descobriu que as taxas de falsos positivos (quando uma foto é identificada equivocadamente com outra) são mais altas para mulheres negras em sistemas de reconhecimento facial usados pelo FBI, a polícia federal norte-americana. Isso pode levar, por exemplo, a falsas acusações de crimes.  

Para diminuir essa tendência, é fundamental aumentar a presença de mulheres no setor de tecnologia, para que as bases e os tratamentos de dados possam ser mais sensíveis à diversidade de gênero. “Com a digitalização de muitos setores, a penetrante natureza da IA exige que ela não ofereça apenas eficiência, mas também que seja inclusiva”, escreveu a programadora Xiaoman Hu, da gigante de tecnologia chinesa Huawei, em um artigo para a publicação Tech Talks.  

Nesse sentido, é fundamental que as empresas de tecnologia se engajem no tema. Um dos mais importantes bancos de imagens e vídeos do mundo, a Shutterstock, por exemplo, fez uma parceria com a WAI para estimular artistas a criarem imagens e conteúdos mais diversos em termos de gênero e raça para estimular uma mudança de percepção na audiência de massa e contribuir para uma base de dados mais inclusiva.