A Amazon tem mais de 500 mil funcionários por todo o mundo. O recrutamento obedece a vários critérios. Para auxiliar na contratação de mais funcionários, a empresa de Jeff Bezos construiu em 2014 um sistema baseado em inteligência artificial para contratar funcionários, o problema é que este sistema está a discriminar as mulheres.
O programa concluiu que os homens eram melhores candidatos e a tendência evidenciada mostrava pontuações mais altas na análise dos seus currículos.
Em 2014, a Amazon decidiu colocar grande parte do seu peso nos processos de contratação de pessoal e recursos humanos nas mãos de inteligências artificiais, sistemas desenvolvidos dentro da empresa para otimizar os esforços de atração de talentos e encontrar o candidato ideal para cada cargo.
A filosofia por trás desse projeto era simples: empregar os mesmos processos de automação que levaram a empresa ao topo do comércio eletrónico global para selecionar os seus funcionários. No entanto, foi descoberto que essa inteligência artificial sistematicamente discriminava as mulheres.
Ao imitar o sistema de avaliação de produtos no seu site, a inteligência artificial da Amazon valorizou os candidatos com uma pontuação entre uma e cinco estrelas.
Era como o Santo Graal. Eles queriam que fosse um sistema no qual se introduzisse 100 currículos para selecionar os cinco melhores, que seriam os que acabariam por ser contratados.
Referiu um funcionário da Amazon em declarações à Reuters.
No entanto, um ano após o lançamento do projeto, os seus programadores descobriram que o programa sistematicamente discriminava as mulheres e preferia contratar homens, especialmente em empregos com perfil técnico ou desenvolvimento de software.
A razão por trás desta discriminação parecia indicar que a inteligência artificial fora treinada com os perfis de ex-candidatos que tentaram trabalhar na empresa durante os últimos 10 anos, que mostravam um domínio masculino dentro do setor.
A inteligência artificial da Amazon descobriu que os homens eram melhores candidatos do que as mulheres e que os currículos penalizados continham palavras como “mulheres” ou “capitão do clube das mulheres”.
Fonte: Dados de 2017 disponíveis das empresas americanas. Reuters
Para além desta avaliação, o sistema penalizou os candidatos que haviam estudado em faculdades exclusivamente femininas. Quando os engenheiros perceberam esta tendência, reconfiguraram a lógica da inteligência artificial para que não levasse estes termos em consideração.
Contudo, não havia garantia de que o algoritmo não encontraria outras maneiras de discriminar candidatos com base no género.
Finalmente, a equipa responsável por este projeto foi desmantelada. No entanto, os responsáveis pela seleção do pessoal continuaram a usar a ferramenta , embora apenas como suporte e considerando outras considerações além da classificação usada na inteligência artificial.