Ultimamente, o Facebook não tem tido uma boa imagem. Mesmo depois de investigado, continuam a haver casos ligados ao racismo na empresa. Desta vez, com a Inteligência Artificial (IA).
A IA do Facebook rotulou erradamente um vídeo de homens negros como ‘primatas’ e a empresa chamou-lhe “um erro inaceitável”.
Alguns utilizadores do Facebook, que assistiram recentemente a um vídeo com homens negros, viram uma mensagem automática que perguntava se gostariam de “continuar a ver vídeos sobre primatas”.
O vídeo, lançado a 27 de Junho de 2020, foi realizado pelo The Daily Mail e apresentava clips de homens negros em confusões com homens brancos e agentes da polícia. Não tinha qualquer ligação com macacos ou primatas. Dado isto, a empresa investigou e desativou a funcionalidade de IA que levou ao aparecimento desta mensagem.
Facebook pede desculpa pelo erro da IA
O Facebook pediu desculpa afirmando que foi “um erro inaceitável” e acrescentando que está a analisar a funcionalidade de recomendação para “evitar que erros destes voltem a acontecer”.
Darci Groves, uma antiga gestora de conteúdos no Facebook, disse que uma amiga lhe tinha enviado recentemente uma captura de ecrã do alerta. Em seguida, ela colocou-a num fórum de feedback de produtos para os atuais e antigos funcionários do Facebook.
Em resposta, um gerente de produto para o Facebook Watch, o serviço de vídeo da empresa, chamou-lhe “inaceitável” e disse que a empresa estava “a investigar a causa raiz”.
Como dissemos, embora tenhamos feito melhorias na nossa IA, sabemos que não é perfeita, e que temos mais progressos a fazer. Pedimos desculpa a todos aqueles que possam ter visto estas recomendações ofensivas.
Disse Dani Lever, uma porta-voz do Facebook, numa declaração.
O Google, a Amazon e outras empresas tecnológicas têm estado sob investigação há anos por preconceitos dentro dos seus sistemas de IA, particularmente em torno de questões de raça.
Num exemplo em 2015, o Google Fotos rotulou erradamente as fotografias dos negros como “gorilas”, pelo que referiu que “lamentava verdadeiramente” e que iria trabalhar para resolver o problema imediatamente.
Questões raciais geram lutas internas na empresa
Em 2016, Mark Zuckerberg, o chefe executivo, pediu aos empregados que parassem de riscar a frase “Black Lives Matter” e a substituíssem por “All Lives Matter” num espaço comum no Menlo Park, Califórnia, sede da empresa.
Groves, que deixou o Facebook durante o verão após quatro anos, disse numa entrevista que uma série de passos em falso na empresa sugeria que lidar com problemas raciais não era uma prioridade para os seus líderes. “O Facebook não pode continuar a cometer estes erros e depois dizer ‘lamento'”, disse ela.