Apesar de estar vocacionada para melhorar a vida dos utilizadores, a IA pode ter também uma vertente mais negra e mais sombria. A provar isso está uma nova publicação, quem mostra que a IA pode roubar qualquer password apenas a ouvir como o utilizador escreve no teclado.
Foram 3 investigadores da Universidade de Cornell descobriram uma forma de roubar dados apenas com o gravar do áudio da escrita das teclas de um teclado. Esta conseguiu treinar uma IA para escutar e identificar cada uma das diferentes teclas.
Para isso, as 36 teclas individuais foram carregadas 25 vezes cada uma, para alimentar esta IA. O sistema não funciona com qualquer teclado aleatório e deve ser treinado para o que se pretende atacar, com referências de letra, número ou símbolo corresponde a cada tecla.
Este treino pode ser feito localmente com um microfone ou remotamente usando uma app como o Zoom para gravar o áudio das teclas usadas. Com isso, os atacantes são capazes de prever o que foi escrito com até 95% de precisão. Esta caiu apenas para 93% ao usar o Zoom para treinar o sistema de IA.
Na demonstração deste cenário, a equipa usou um MacBook Pro para testar o conceito. Essa foi a base para o modelo de IA reconhecer qual letra está associado a cada som da tecla. Existem diferenças subtis nas formas de onda produzidas pela gravação para reconhecer cada tecla com um grau de precisão surpreendente.
Este tipo de ataque potencial não é isento de falhas. Os investigadores revelaram que há medidas que podem ser tomadas para mitigar a precisão do sistema. Bastará apenas mudar a forma como o utilizador escreve. A escrita por toque reduziu a precisão do reconhecimento de 64% para 40%. Também seria possível usar software para produzir ruído que confunde a IA.
Esse tipo de ataque funciona muito bem com teclados mecânicos, mas não se limita apenas a estes. Um de membrana ainda produz som suficiente para treinar o modelo AI. A solução de proteção ideal parece ser mesmo a utilização de software, em vez de trocar por um (mais) silencioso.