É utilizador assíduo da Siri, ou da Google Assistant? Gostaria que este serviço de assistente virtual ficasse melhor a cada dia? Quão bom não seria usufruir de conversas cada vez mais naturais, tanto na solução da Apple como da gigante de Mountain View? Então leia este artigo e inteire-se dos “quês” e “porquês”.
Similarmente à Google, também a Apple pode estar a ouvir aquilo que dizemos à Siri.
Famosa pela sua postura pública pró-privacidade, a Apple também tem uma assistente virtual, a Siri. Esta, por sua vez, tem melhorado as suas capacidades, funções e discurso ano após ano. Contudo, algo que escapa a grande parte dos utilizadores é a forma como estas assistentes virtuais vão crescendo, e melhorando.
“Hey Google, conheces a Siri?”
Subjacente à Siri, e à Google Assistant para esse efeito, estão algoritmos de inteligência artificial (IA). Ora, estes vão aprendendo com a experiência e serão tanto melhores quanto maior for o volume de informação por si processada. Por conseguinte, tanto a Apple como a Google alimentam esta IA com novas informações.
Portanto, ainda que o mote da privacidade seja um dos maiores chavões da Apple, alguns colaboradores contratados pela empresa acabaram de quebrar esse vínculo. Mais concretamente, em Espanha, um grupo de prestadores de serviços, neste caso de transcrição, confessam ouvir conversas privadas dos utilizadores.
O relato foi agora avançado pelo El País, que recentemente também expôs a mesma realidade no lado da Google e da sua Google Assistant. Ambas as tecnológicas contratam várias empresas de prestação de serviços com o intuito de transcrever as nossas conversas. Os motivos para tal creio que já se tenham tornado óbvios.
A “fome” insaciável da Inteligência Artificial
Com o intuito de melhorar os algoritmos de inteligência artificial é necessário “alimentar” essas máquinas. Ora, é aqui que entram as transcrições, fazendo corresponder o áudio a determinado trecho e palavra. Isto é, com as conversas transcritas, os algoritmos podem ir aprimorando a sua previsão e síntese de voz, por exemplo.
Com o “pão” a serem essas mesmas conversas, o fermento pode, por vezes, adquirir um tom extremamente pessoal. Ora, é aqui que entram as cláusulas contratuais e o respeito pela privacidade alheia. Um ponto extremamente delicado, sobretudo quando outras pessoas estarão a ouvir o que dizemos às assistentes.
Estamos, portanto, perante um cenário em que a Apple contratou empresas para transcrever aquilo que as pessoas pedem à Siri. O propósito de tal já foi esclarecido acima, mas coloca-nos com o dilema de termos outro ser humano a escutar a nossa voz, ainda que todo o processo possa estar revestido de anonimato.
Prática transversal à Siri e à Google Assistant
Aliás, também a Amazon faz exatamente o mesmo, mas talvez numa versão mais extrema. Bom, poderíamos até alongar esta analogia e dizer que todo e qualquer algoritmo de IA carece de um fluxo constante de novos dados para que o seu desempenho vá melhorando. Esta é a realidade da IA no nosso quotidiano.
Retomando a narrativa do El País, os colaboradores espanhóis relataram grande parte da sua atividade. De acordo com o seu relato, estes ouviram conversas privadas dos utilizadores, captadas pela Siri. Ouviram vários idiomas e testemunharam, passivamente, todo o tipo de situações, desde o mais caricato, ao mais íntimo.
A escuta das “nossas” conversas foi feita por uma das empresas contratadas pela Apple para os fins supracitados. A seu cargo, estes colaboradores devem analisar as conversas privadas e pedidos feitos à assistente virtual Siri. Portanto, acabaram por surgir conversas ultrajantes, mas sendo a maioria banais.
Não existem fórmulas mágicas, apenas conversas processadas
Por sua vez, a Apple não comentou o assunto, referindo apenas a sua política de privacidade, bastante detalhada. Da sua redação atual, atualizada a 9 de maio de 2019, podemos salientar o trecho alusivo ao processamento das informações pessoais:
A Apple pode proceder ao processamento das informações pessoais do Cliente: para os efeitos descritos na presente Política de privacidade, com o consentimento do Cliente, para o cumprimento de uma obrigação legal à qual a Apple esteja sujeita, ou quando for considerado necessário para os fins legítimos da Apple ou de terceiros a quem possa ser necessário divulgar informações.
A tecnológica de Cupertino reitera o respeito pela privacidade do cliente. Algo que, para todos os efeitos, só foi agora violado pelos colaboradores que faltaram ao vínculo celebrado com a empresa. Isto é, perante esta revelação pública, as conversas com a Siri já não são completamente limitadas dentro da esfera Apple.
Falhou o elemento humano, tanto na Google como na Apple
Em ambos os casos foram os colaboradores (seres humanos), que violaram o vínculo estabelecido com a empresa. Ainda que o seu labor envolvesse escutar conversas alheias, deveriam tê-lo feito da forma certamente prevista. Veja-se que seria altamente improvável as empresas não proibirem tais revelações públicas.
Ainda assim, a tecnológica de Cupertino não se pronunciou sobre esta brecha. Algo que traz à luz a indústria de processamento de informações, o “novo” ouro do século XXI. Para nós, utilizadores, torna-se bem claro que pelo menos uma fração das nossas conversas podem chegar a ouvidos humanos.
Recordando ainda o caso da Google Assistant, referido supra, também se captaram mais do que pedidos e comandos à Siri. As deteções erróneas e falsas chamadas da Siri, ou Google Assistant, ativam os microfones e mecanismos de gravação dos respetivos suportes, resultando assim num “falso positivo”.
Mais do que pedidos à Siri ou Google Assistant
Tal e qual o caso da Google Assistant. Também na esfera de Cupertino são geradas gravações, por acidente, ou por erro na escuta da frase de ativação, o Hi Siri. Casos em que o dispositivo móvel reconhece erradamente uma ativação e começa a gravar. Ora, por vezes acaba por ser captada a vida privada dos utilizadores.
Em seguida podemos ver uma fotografia enviada ao El País pelos prestadores de serviços. Aí, vemos um dos milhares de relatórios de transcrição que passam pelas suas mãos com a identificação do trecho, bem como a sua transcrição textual. Ainda de acordo com a fonte, são colaboradores diretos da Apple.
São, portanto, seres humanos incumbidos de ouvir todo o tipo de trechos e pedidos à Siri. A partir daí, devem escrever aquilo que ouvem, de forma a produzir dados que possam ser “alimentados” aos algoritmos de inteligência artificial e por estes processados. Este é, de uma forma sucinta, o procedimento em questão.
O quotidiano de um prestador de serviços à Apple
Cumpre ainda referir que a Siri está presente em vários dispositivos da Apple. Veja-se, por exemplo, o iPhone, o HomePod, os computadores Mac e até mesmo o relógio inteligente, Apple Watch. Todos eles com o potencial de gerar este tipo de gravações que, por conseguinte, podem chegar aos ouvidos e atenção dos colaboradores.
Ainda de acordo com a imprensa estrangeira, a situação destes colaboradores é bastante mais confortável do que os seus homólogos da Google. Na sua peça, o jornal refere que os colaboradores tinham um salário fixo mensal, não trabalhando em regime de free lance ou trabalhador independente.
Podia escolher-se o número de horas a contratar. No meu caso estava a tempo parcial, 30 horas semanais e ganhava 1100 euros por mês, em bruto. Pessoalmente, tinha objetivos a cumprir, com 150 arquivos a escutar por hora. Portanto, devia rever umas 4500 gravações por semana.
As metas de processamento de conversas
A contratação, sobretudo de formados em línguas, é feita por empresas externas que, por sua vez, forneciam os seus serviços à Apple. Portanto, uma realidade idêntica à da Google que também contratava outras empresas para fazer este serviço, em ambos os casos com protocolos de privacidade a ser respeitados.
Obrigavam-nos a respeitar alguns temas de confidencialidade e não podíamos, de forma alguma, compilar algum documento, para proveito próprio, com as informações apuradas.
No entanto, as queixas feitas pelos colaboradores prendem-se com a falta de preparação do pessoal, ou com o controlo de qualidade. “Davam-nos um manual e tinhas que o estudar. Não havia muito controlo“, afirma um dos prestadores de serviço à publicação espanhola.
Por fim, a fonte refere que o único controlo feito era o número de gravações processadas (ouvidas e transcritas). Aqui, em caso de incumprimento das metas impostas, gerava-se motivo para despedimento por justa causa. Ainda de acordo com um antigo colaborador, as metas iam aumentando gradualmente.
Leia mais…