Proponha uma correção, faça uma sugestão
Amazon cria sistema com IA para contratar funcionários, mas que discrimina as mulheres
A Amazon tem mais de 500 mil funcionários por todo o mundo. O recrutamento obedece a vários critérios. Para auxiliar na contratação de mais funcionários, a empresa de Jeff Bezos construiu em 2014 um sistema baseado em inteligência artificial para contratar funcionários, o problema é que este sistema está a discriminar as mulheres.
O programa concluiu que os homens eram melhores candidatos e a tendência evidenciada mostrava pontuações mais altas na análise dos seus currículos.
Em 2014, a Amazon decidiu colocar grande parte do seu peso nos processos de contratação de pessoal e recursos humanos nas mãos de inteligências artificiais, sistemas desenvolvidos dentro da empresa para otimizar os esforços de atração de talentos e encontrar o candidato ideal para cada cargo.
A filosofia por trás desse projeto era simples: empregar os mesmos processos de automação que levaram a empresa ao topo do comércio eletrónico global para selecionar os seus funcionários. No entanto, foi descoberto que essa inteligência artificial sistematicamente discriminava as mulheres.
Ao imitar o sistema de avaliação de produtos no seu site, a inteligência artificial da Amazon valorizou os candidatos com uma pontuação entre uma e cinco estrelas.
Era como o Santo Graal. Eles queriam que fosse um sistema no qual se introduzisse 100 currículos para selecionar os cinco melhores, que seriam os que acabariam por ser contratados.
Referiu um funcionário da Amazon em declarações à Reuters.
No entanto, um ano após o lançamento do projeto, os seus programadores descobriram que o programa sistematicamente discriminava as mulheres e preferia contratar homens, especialmente em empregos com perfil técnico ou desenvolvimento de software.
A razão por trás desta discriminação parecia indicar que a inteligência artificial fora treinada com os perfis de ex-candidatos que tentaram trabalhar na empresa durante os últimos 10 anos, que mostravam um domínio masculino dentro do setor.
A inteligência artificial da Amazon descobriu que os homens eram melhores candidatos do que as mulheres e que os currículos penalizados continham palavras como "mulheres" ou "capitão do clube das mulheres".
Fonte: Dados de 2017 disponíveis das empresas americanas. Reuters
Para além desta avaliação, o sistema penalizou os candidatos que haviam estudado em faculdades exclusivamente femininas. Quando os engenheiros perceberam esta tendência, reconfiguraram a lógica da inteligência artificial para que não levasse estes termos em consideração.
Contudo, não havia garantia de que o algoritmo não encontraria outras maneiras de discriminar candidatos com base no género.
Finalmente, a equipa responsável por este projeto foi desmantelada. No entanto, os responsáveis pela seleção do pessoal continuaram a usar a ferramenta , embora apenas como suporte e considerando outras considerações além da classificação usada na inteligência artificial.
Este artigo tem mais de um ano
Loading ...
ou seja o computa chega a conclusao que os homens sao melhores canditados…isso nao se chama descriminacao…chama-se conclusao das amostras analisadas. 10 anos a analisar curriculos é muita fruta….
tudo depende dos cargos que foram analisados ta claro.
nao digo que os homens sao melhores que as mulheres e vice versa….mas penso que os homens na sua grande maioria tenham uma capacidade para certas coisas e mulheres para outras. nao acho que os homens tenham capacidades iguais as das mulheres e vice versa. somos ambos humanos mas temos aptidoes naturais diferentes. ponham um mapa a frente duma mulher e percebem o que digo 🙂
as mulheres para trabalhos que exijam capacidade de sacrificio, metodo e resiliencia nao ha melhores.
Vá lá, uma das raras vezes onde um comentário diz algo com sentido.
É um facto que homens são melhores em determinadas áreas e as mulheres melhores noutras.
Aceitar isso faz confusão nesta geração de indignados, preferem que todos façam tudo por igual. Se na Natureza (animais) não acontece, nós, simples animais, também não será diferente.
CADA MACACO NO SEU GALHO.
Sem comentar sobre as diferencas entre os homens e mulheres… E sem tentar corrigir o seu comentario, apenas adicionar informacao.
O que o artigo diz eh que o algoritmo de IA discriminava mulheres por keywords especificas a mulheres por estes aparecerem menos vezes em perfis selecionados, devido a existirem menos curriculos de mulheres e nao puramente pelas suas capacidades.
Tipicamente estes algoritmos funcionam a base de analise quantitativa de indicadores de sucesso.
O problema eh que nem sempre estes indicadores sao escolhidos por pessoas reais e havendo empate, o sistema vai buscar outros indicadores baseados na quantidade de vezes que apareceram em perfis vencedores.
Ora, o que quer dizer que : na area tecnologica, onde existem muitos mais homens do que mulheres, obviamente a quantidade de perfis vencedores ira tender para o lado dos homens, mesmo que 70% dos curriculos de mulheres sejam melhores que a media dos homens. Simplesmente porque existem mais homens!
No caso, e por falta de “tempo humano” foi preferivel descontinuar o projecto em vez de limitar e corrigir esses indicadores de successo apenas aqueres que fossem relevantes para a contratacao.
Se calhar ate os homens sao melhores que as mulheres … (pessoalmente duvido, acho que nao se trata de uma competicao, apenas somos melhores em areas diferentes) mas nao foi essa a conclusao deste projecto.
Errada meu camarada, não é isso que diz
Errado Onde?
E agora?
http://www.abc.net.au/news/2017-06-30/bilnd-recruitment-trial-to-improve-gender-equality-failing-study/8664888
😉
Um errozinho no título:
“Amazon cria sistema com Inteligência Artificial para contratar <> discrimina as mulheres”
😉
*quem
Esqueçam pplware, li a frase de uma outra forma! Foi o copinho de vinho do jantar 😉 Sorry
A frase está realmente rebuscada… Também demorei a atingir.
Ok, as mulheres sentem-se descriminadas (vira o disco e toca o mesmo), mas depois ficam realizadas quando criam cotas para elas terem as posições que desejam ( só tenho que concordar em satisfazer as mulheres nas posições que mais gostam) somente por serem mulheres. Fazem-me lembrar os filmes do Spike Lee quando só tem negros nos filmes que realiza porque só assim ficam menos descriminados sem brancos.
Amigo João Pedro,
Essa de “…só tenho que concordar em satisfazer as mulheres nas posições que mais gostam…” é para isso que o homens servem e assim se retirar o maior prazer…
Estou a brincar, é que uma frase tirada do seu contexto é tramada…
Quanto às cotas acho que são desprestigiantes, sejam elas para quem forem.
Um problema, quanto a mim, é que por vezes as feministas querem ser “homens” e isso cria um problema. Elas não são homens, são mulheres com as suas características naturais, com virtudes e defeitos e que todos deviam ter a mesma oportunidade aos cargos que a que se propusessem.
Um dos casos em que existe discriminação é na da maternidade e do acompanhamento dos filhos, eu não defendo que os homens passem a ter filhos (parir), mas que a lei contemple a possibilidade de eles poderem acompanhar as mulheres nesse período assim como acompanhar os filhos em caso de doença (penso que agora a lei já permite).
Assim podia de alguma maneira diluir essa diferença no emprego e na contratação…, é um assunto bastante delicado para alguns e natural para outros.
Outra questão é o dos salários…, nada justifica que uma mulher na mesma área de trabalho do homem ganhe menos.
Enfim, isto é uma questão que envolve mentalidades do estado, dos cidadãos e dos empregadores. Algo tem que mudar e para melhor, mas sem extremismos e irrealismos, sem ser sim só porque sim.
Eu sei que poderão haver vozes discordante da minha, mas para isso é que existem debates, desde que os mesmos tenho como objectivo melhorar, agora falar só por falar, mais vale estar calado…
abaptista
Uma empresa é para dar lucro, e ter as pessoas mais competentes, não interessa o sexo. Se a AI metesse tudo mulheres certamente já não existiria tanto murmurinho. Chegámos ao ponto de ver machismo no software…
Qualquer situação está a servir para o pretexto da descriminação das mulheres. As mulheres isto, as mulheres aquilo, é tudo contra as mulheres. A reboque da descriminação e principalmente da descriminação das mulheres, estamos a deturpar o que realmente interessa, ou seja, o mérito. O mérito é que tem de ser o motivo da escolha. Se as mulheres tiverem mais mérito, então ok, que se escolham as mulheres. É evidente que há características mais comuns nos homens e outras mais comuns nas mulheres e quem contrata, quem escolhe, tem de ter isso em consideração. Se se pretende contratar pessoas para a área dos cuidados médicos ou ensino, mais facilmente se encontram mulheres do que homens. Se quero contratar para as áreas tecnológicas mais facilmente encontro homens. As próprias características de género determinam já em grande parte quem tem mais mérito, então porquê escamotearmos a realidade. Muitas vezes quem fala em descriminação quer é atingir outros objectivos, quer é obter de forma fácil o que outros só conseguem com muito trabalho. Sim é verdade, também há quem não tenha mérito nenhum e esteja em cargos de topo, mas isso já é assunto para cunhas, interesses e companhia. Enquando a sociedade estiver formatada para o compadrio, não interessa falar em mérito e é muito mais fácil falar em descriminação. Para terminar, querem fazer um teste ao que digo? Vamos ver quantas mulheres vão fazer comentários a esta publicação 🙂
“As próprias características de género determinam já em grande parte quem tem mais mérito” hã?
Mérito ganha-se com experiência e sem te darem a oportunidade nunca conseguirás adquirir o mérito.
Obviamente que existem diferenças, mas não são tão acentuadas como referes. Trabalhos de esforço físico obviamente que homens terão mais rendimento e os desempenharão com menos desgaste.
A nossa sociedade é machista e racista. Quem não concordar, é livre de o fazer, mas está errado.
“O programa concluiu que os homens eram melhores candidatos e a tendência evidenciada mostrava pontuações mais altas na análise dos seus currículos.” Mas onde é que está o problema ?? Sinceramente eu não vejo problema nenhum.É mais certo e sabido que os homens são melhores do que as mulheres em TUDO,por isso não façam filmes onde não os há.Os homens só não podem ter filhos porque se os pudessem ter até acredito que seriam melhores cuidadores para os seus filhos do que as mulheres.Esta é a minha opinião,a falar a sério.
O algoritmo nao concluiu que os homens sao melhores que as mulheres…
Sugiro uma leitura atenta.
Basta pensar um bocadinho para constatar que os homens não são melhores em TUDO.
o que te falta são umas décadas de trabalho em cima do pêlo, viajar um bocado e conhecer outras realidades de perto.
nunca ouviste dizer que quem educa uma mulher educa uma nação (povo)? pois…
claro que tens direito à tua opinião mas o que dizes não poderia estar mais errado
Homens e mulheres devem ser completar, e não competir, rivalizar ou dividir, pois possuem aptidões diferentes. Uma engrenagem que move a sociedade.
“Uma engrenagem que move a sociedade.”—»do seu ponto de vista.Do meu não.
O teu ponto de vista é o mesmo que o dos islâmicos. Eles também acham que estão certos.
não generalizes!
uma religião não define uma pessoa e nem todas as pessoas dentro da mesma religião pensam do mesmo modo.
ao dizeres (e pensares) este tipo de coisas está a agir tão mal ou pior do que se tivesse a opinião absurda (a realidade demonstra que é absurda) de que os homens são melhores em tudo do que as mulheres.
muitas religiões discriminam as mulheres e muitas pessoas não religiosas o fazem. até mulheres discriminam e estigmatizam as mulheres (olha os casos recentes das violações, violência doméstica, et)
Foi apenas um exemplo. Aliás, para mim religião nem é um assunto de discussão, pois como não acredito não tenho nada a dizer. A menos que me tentem vender o sangue de Cristo 🙂
Apenas fiz a comparação pois este individuo já referiu mais que uma vez o seu ponto de vista machista, pois não tenho absolutamente nada contra muçulmanos (os não extremistas).
Só lhe estava a tentar mostrar (sabendo que não terei sucesso) que embora seja a opinião dele, está errada.
Engraçado o uso da palavra discriminar pois o programa foi criado para esse mesmo efeito.
Ao pegar em vários currículos, é necessário discriminar competências e aferir quais os melhores candidatos. Mas ao mesmo tempo, o algoritmo está a discriminar as mulheres. Ou seja, ambos os sentidos da palavra discriminar estão em uso 😉
IA… pensamento do milenio passado. IA baseada emdata recolhida durante 40 anos cheios de erros e más decisões eh eh eh
O algoritmo nao concluiu que os homens sao melhores que as mulheres…
Sugiro uma leitura atenta.
Acho que sim, basicamente diz que o perfil das pessoas que trabalharam na Amazon tinahm esses comportamentos…. Daí a IA procurar pessoas com um perfil semelhante.
Isso apenas sugere que o algoritmo escolhe pessoas com perfil semelhante ao ja contratados. Nao que “homens sao melhores que mulheres”.
O facto eh simples de perceber: na area tecnologica existem mais homens que mulheres, logo, sao contratados mais homens que mulheres.
Se houver um saco com 1000 berlindes verdes e 500 berlindes vermelhos e se deita-los ao chao espanhando-se estes a distancia uniforme, ao recolher os berlindes num circulo, a quantidade de verdes vai ser – estatisticamente – mais alta do que vermelhos.
Ora, se depois houver um algoritmo que va procurar berlindes com as caracteristicas semelhantes aos ja recolhidos, entao, o algoritmo vai tender para berlindes verdes, pois estes vao estar em maioria.
Agora pergunto… os berlindes verdes sao melhores que os vermelhos? Nao ha forma de saber porque nao foi esse o alvo do estudo.
Teria de haver um novo estudo para se saber.
E para quando igualdade no número de homens e mulheres nas obras ou nas minas etc. xD
Meter uma pessoa mais fraca num trabalho mais duro. Isso faria sentido em que mundo?
Num mundo onde tens cotas para cargos bonitos mas não para cargos sujos. Porque os trabalhos sujos são os homens que fazem.
Obviamente que existe um estereotipo associado ao “quem deve fazer o quê”, mas isso foi o que nos impuseram. Assim como nos impuseram que usar cor de rosa é coisa de “maricas”.
Na grande maioria dos cargos “sujos” como lhes chamas, o que vejo são posições ocupadas por homens, que são mais fortes e têm claramente mais resistência que as mulheres.
A minha namorada, por muito que quisesse, nas obras não daria metade do rendimento de um homem e andaria de rastos de segunda a sexta.
O problema esta em só se falar em descriminação em cargos de poder… Para ter autoridade é discriminatório, para trabalhar no duro não tem competências…
Há mulheres que trabalham em trabalhos duros, em mecânica e em muitas outras áreas onde normalmente só trabalham homens. A questão é, quantas mulheres tem formação para essas áreas?
Exemplo:
Num curso de engenharia mecânica, quantas mulheres estão inscritas? Alguém as impediu de tirar o curso? Quantas mulheres tem interesse em carros e mecânica?
Claro que existe mulheres com esses interesses, e até grandes profissionais, mas são em numero muito menor do que os homens. A probabilidade de encontrar um homem com grandes capacidades e até melhor que as mulheres é maior. Por questão de números, é muito mais difícil encontrar mulheres que homens.
Mas depois debate-se, que um fabricante de automóveis, devia ter directoras mulheres em vez de homens. Mas montar motores, tem de ser os homens…
Para ser directora, basta tirar um curso de gestão.
Já o director, começou por tirar o curso de engenharia, depois andou a carregar peças para os engenheiros que estavam a construir motores, depois começou a construir motores, depois a projectar motores, depois tirou um curso de gestão e finalmente lá chegou a director.
Ao fim de 15 anos de trabalho, é despedido, para ir para lá uma mulher, extremamente profissional e com todo o mérito, mas só tem o curso de gestão e nunca trabalhou no ramo automóvel.
Nada contra ela ser directora… mas devia começar como os homens começaram… não é simplesmente saltar x de passos para ter cargos superiores.
Podem dizer, que este em muitos casos não é o processo normal de carreira dentro de uma empresa, devido a cunhas e afins. Mas isso já é outra questão.
Alem disso, é por cada vez mesmo se fazer este processo de carreira dentro da empresa, que mais cedo ou mais tarde, muitas empresas/áreas (como nas redes informáticas) irão perder qualidade e poder a vir a ter problemas estruturais. Mas isto já é outra questão…
estás muito enganado. em muitas partes do mundo os trabalhadores mineiros são homens e mulheres.
talvez o maior poder físico dos homens faça com que sejam em maior número, só isso.
por outro lado tens imensas sociedades a nível global em que quem faz todo o trabalho duro são as mulheres como por exemplo o trabalho do campo (das terras) e o transporte da água.
Mas em muitos desses cenários, já é classificado com abuso de poder por parte dos homens (o que em muitos casos é bem verdade, infelizmente), não é igualdade de direitos.
No mesmo mundo em que pessoas conseguem posições não por serem mais competentes mas devido ao que têm no meio das pernas e às quotas que têm de ser preenchidas
lol Faz-me lembrar a história das Brasileiras que vinham roubar os maridos das outras. Coitadinhos.
Sugiro uma leitura atenta. Ou precisam de oculos ?
Então explica lá tu, já que ninguem percebeu o assunto