As redes sociais têm sido altamente culpabilizadas pela disseminação do discurso de ódio, sendo-lhes apontada a sua incapacidade de a controlar. Na sequência dessas críticas, o Twitter apresentou planos para uma competição que melhorará o ambiente na plataforma.
Ao invés de pagar a investigadores para descobrirem problemas de segurança, o Twitter recompensará aqueles que encontrarem exemplos de enviesamento que ainda não tenham sido detetados no seu algoritmo.
Em abril, o Twitter disse que iria estudar potenciais danos “não intencionais” criados pelo seu algoritmo de recorte de imagem. Com este, as imagens muito grandes são recortadas, pelo que os utilizadores precisam de tocar nelas para as abrir e ver completamente. O problema está na seleção do algoritmo para esse recorte automático: o Twitter descobriu, também por via de várias queixas, que o seu sistema fornecia um tratamento desigual e preconceituoso, pois favorecia utilizadores brancos e masculinos.
Na altura, o Twitter agradeceu a todos os que detetaram a falha no algoritmo. Além disso, embora tenha afirmado que não encontrou qualquer evidência de preconceito durante os testes ao sistema, admitiu que seria preciso trabalhá-lo mais.
Encontrar enviesamento nos modelos de machine learning (aprendizagem de máquinas) é difícil, e por vezes, as empresas descobrem danos éticos involuntários, uma vez que já chegaram ao público. Queremos mudar isso.
Escreveram Rumman Chowdhury e Jutta Williams, executivos do Twitter, num blogue.
Twitter recompensará quem detetar preconceito no algoritmo
Um estudo publicado em abril concluiu que as pessoas ainda pensam que os algoritmos computacionais são mais fiáveis do que ela próprias, especialmente quando se trata de uma tarefa mais complicada. Contudo, o Twitter abordará aqueles que, efetivamente, utilizam a rede social, recompensando-os, caso encontrem exemplos de enviesamento e preconceito no seu algoritmo de recorte.
Inspiramo-nos na forma como a investigação e as comunidades hacker ajudaram o campo da segurança a estabelecer as melhores práticas para identificar e mitigar as vulnerabilidades, a fim de proteger o público.
Queremos cultivar uma comunidade semelhante, centrada na ética do machine learning, para nos ajudar a identificar uma gama mais vasta de questões do que seria possível por nós próprios. Com este desafio, pretendemos estabelecer um precedente no Twitter, e na indústria, para uma identificação proativa e coletiva de danos nos algoritmos.
Revelaram os executivos.
Por ser o primeiro concurso que recompensa aqueles que detetarem o enviesamento de um algoritmo, o Twitter acredita que poderá representar uma mudança na indústria.
Os vencedores receberão 3.500 dólares, pelo primeiro lugar, 1.000 dólares, pelo segundo, e 500 dólares, pelo terceiro. Mais do que isso, serão recompensados ainda com 1.000 dólares, pela Most Innovative e pela Most Generalizable. Os vencedores serão anunciados na DEF CON AI Village, no dia 8 de agosto.