ChatGPT enganado e usado por hackers para enviar spam direcionado

A IA traz novos desafios e cria também novas oportunidades. Nem todas são criadas em contextos que garantem a melhor utilização e exploram vulnerabilidades e falhas destes motores. A mais recente descoberta mostra que o ChatGPT estava a ser usado para distribuir spam e atacar sites na Internet. Esta situação parece estar agora controlada.

O ChatGPT pode ser útil para muitas tarefas, tanto benignas como maliciosas. Investigadores de segurança da SentinelOne descobriram o AkiraBot, uma ferramenta automatizada de criação de spam que tem vindo a afetar milhares de pequenas e médias empresas desde setembro de 2024.

Em janeiro, o ficheiro do bot, que não tem nenhuma ligação com o grupo de ransomware Akira, continha mais de 420.000 sites alvo, 80.000 dos quais foram alvos com sucesso. O AkiraBot é um bot escrito em Python que tem como alvo formulários de contacto e widgets de mensagens incorporados nos sites destas empresas.

O bot utiliza a API disponibilizada pela OpenAI para gerar mensagens adaptadas ao conteúdo de cada site alvo, tornando-os muito difíceis de detetar. Além disso, o bot foi concebido para ignorar captchas, incluindo os do Google e do Cloudflare, através de emulação de browser e scripts.

As mensagens enviadas pelo AkiraBot são spam comercial, cujo objetivo é promover serviços de SEO duvidosos para subir nos resultados de pesquisa do Google. Além disso, as plataformas de SEO promovidas pelo bot estão associadas a avaliações suspeitas no TrustPilot, muitas vezes muito positivas e provavelmente geradas automaticamente, o que reforça a hipótese de uma campanha fraudulenta bem organizada.

A utilização de conteúdo de spam gerado por modelos de linguagem pelo AkiraBot demonstra os novos desafios que a inteligência artificial representa para a proteção dos websites contra ataques de spam. OS avaliadores pensam que este tipo de ataques podem tornar-se habituais e que devem por isso ser criadas medidas para proteger os ataques.

A OpenAI foi avisada desta situação e fechou a conta fraudulenta, lembrando a todos que utilizar os nossos serviços para espalhar spam é contra as suas políticas. A chave API afetada foi desativada e tomaram mais medidas para garantir que desativam todos os recursos usados nestes ataques.