Órgão europeu aponta que algoritmo do Facebook reforça estereótipos de gênero e promove discriminação nas vagas de emprego
Um órgão europeu de direitos humanos determinou que o algoritmo de anúncios do Facebook permite discriminação de gênero, segundo matéria da CNN.
A decisão, considerada por especialistas como um marco, reforça a necessidade de responsabilizar empresas de tecnologia pelo impacto de seus sistemas automáticos sobre os usuários.
Como o algoritmo reforça estereótipos
O Instituto Holandês para os Direitos Humanos concluiu que o algoritmo do Facebook reforçava estereótipos de gênero na Holanda. As empresas promoviam profissões tradicionalmente femininas para mulheres, enquanto direcionavam ocupações consideradas masculinas, como vagas para mecânicos, principalmente para homens.
A decisão surge após investigação da Global Witness, que analisou anúncios de emprego em seis países — Holanda, França, Índia, Irlanda, Reino Unido e África do Sul — e encontrou padrões de viés semelhantes globalmente. Contudo, quatro queixas foram apresentadas pelo Bureau Clara Wichmann (Holanda) e pela Fondation des Femmes (França).
Meta se posiciona, mas mantém restrições
A empresa destacou que já aplica restrições de segmentação em anúncios de emprego, imóveis e crédito em mais de 40 países, incluindo França e Holanda.
“Não permitimos que os anunciantes segmentem esses anúncios com base no gênero”, explica Ashley Settle, porta-voz da Meta, em comunicado de 2023.
A plataforma afirma que trabalha com acadêmicos e grupos de direitos humanos para estudar e melhorar a equidade algorítmica, mas não detalhou como treina o algoritmo de anúncios.
Qual o impacto da decisão?
Especialistas afirmam que, embora a medida do Instituto não seja juridicamente vinculativa, tribunais podem usá-la como referência em futuras ações legais.
O advogado holandês Anton Ekker, especialista em IA e direitos digitais, explica que a decisão pode levar a multas ou ordens para modificar algoritmos que reforcem desigualdades de gênero, raça, etnia ou religião.
Hoje é um grande dia para os usuários holandeses do Facebook, que agora têm um mecanismo acessível para responsabilizar empresas multinacionais de tecnologia.
Berty Bannor, representante do Bureau Clara Wichmann, à CNN.
Para Rosie Sharpe, da Global Witness, a medida representa um passo importante para responsabilizar empresas pelo impacto discriminatório de seus algoritmos.
Mudanças polêmicas nas políticas da Meta
A decisão acontece após a plataforma anunciar a descontinuação de programas de diversidade, equidade e inclusão, alterações em suas políticas de conduta de ódio e o fim dos programas de verificação de fatos por terceiros nos EUA.
Algumas mudanças incluem a remoção de restrições que proibiam comentários depreciativos sobre mulheres ou pessoas trans, permitindo agora determinadas expressões com base em “discurso político e religioso”.
Por exemplo, usuários podem se referir a “mulheres como objetos domésticos ou propriedade” ou chamar pessoas transgênero ou binárias de “isso”, sem serem punidos.
Fonte: olhar digital
