Os sistemas automatizados têm vantagens óbvias. Assentes em algoritmos, conseguem realizar tarefas repetitivas de uma forma automática. Mas nem sempre estes processos correm bem e a Google tem agora em mãos o mais recente problema criado por um automatismo!
O novo serviço de fotografia da Google cometeu uma falha monumental esta semana ao catalogar, de forma errada, duas pessoas negras como sendo gorilas!
O serviço de fotografias da Google, que foi apresentado na ultima I/O, consegue automatizar um conjunto de funções que o utilizador teria de realizar.
A mais interessante, e que não está ainda disponível de forma global, é a identificação de caras e de outros objectos nas imagens e a criação de tags para cada uma delas, facilitando a pesquisa e a catalogação das fotografias que temos presentes.
Estes processos são automáticos e recorrem aos algoritmos de reconhecimento facial que a Google tem desenvolvido ao longo dos anos, para os seus serviços de pesquisa de imagens.
Mas o impensável aconteceu esta semana quando um utilizador viu surgir, no seu Google Photos, uma nova tag, chamada Gorillas. Ao ver quais as imagens que estavam associadas a essa nova tag, descobriu que eram imagens suas e da sua namorada, ambos negros.
Para pedir explicações, e tentar mostrar ao mundo o que a Google está a fazer com os seus algoritmos, colocou no Twitter uma mensagem onde mostra o que encontrou no seu Google Photos.
Google Photos, y’all fucked up. My friend’s not a gorilla. pic.twitter.com/SMkMCsNVX4
— diri noir avec banan (@jackyalcine) 29 junho 2015
Ao ser confrontada com esta situação, que é no mínimo incómoda, a Google reagiu de imediato pedindo desculpa ao utilizador. Reconheceu que esta é uma situação que não pode acontecer e que está errada.
@jackyalcine Holy fuck. G+ CA here. No, this is not how you determine someone’s target market. This is 100% Not OK.
— Yonatan Zunger (@yonatanzunger) 29 junho 2015
Esta é uma falha que reside apenas na forma como o algoritmo de identificação da Google tratou estas duas pessoas negras, associando-as a gorilas.
Apesar de não existir um culpado formal, é algo extremamente desagradável e preconceituoso, que ofende e que revela uma “postura xenófoba” pode parte dos mecanismos automáticos da Google.
A empresa já tentou afinar estes mecanismos para que situações destas não aconteçam no futuro, evitando o embaraço e a vergonha de quem se viu envolvido, mas acabou por remover a tag Gorillas do Google Photos para evitar mais problemas destes.