Fique longe dos browsers de IA como o ChatGPT Atlas, alerta Gartner

Recentemente, a empresa de análise Gartner alertou que os browsers de Inteligência Artificial (IA) ainda são muito arriscados e que, por enquanto, é preferível ficar longe deles.

Num comunicado intitulado "Cybersecurity Must Block AI Browsers for Now" (em português, "A cibersegurança deve bloquear os browsers de IA por enquanto"), a Gartner alerta que "as configurações padrão dos browsers de IA priorizam a experiência do utilizador em detrimento da segurança".

Pela mão do vice-presidente de pesquisa Dennis Xu, do diretor sénior de análise Evgeny Mirolyubov e do vice-presidente de análise John Watts, a empresa de análise foi taxativa quanto ao facto de os browsers de IA ainda representarem um grande risco para a maioria das empresas.

Utilizadores estão a colocar dados em risco sem saberem

Para os analistas, um browser de IA abrange ferramentas como o Comet da Perplexity ou o ChatGPT Atlas da OpenAI, que incluem dois elementos:

• Uma "barra lateral de IA" que oferece aos utilizadores a oportunidade de resumir, pesquisar, traduzir e interagir com o conteúdo da web, usando serviços de IA fornecidos pelo desenvolvedor do browser.
• Uma capacidade de transação agêntica que permite ao browser navegar, interagir e concluir tarefas de forma autónoma em sites, especialmente em sessões web autenticadas.

Neste cenário, o comunicado da Gartner alerta que as barras laterais de IA significam que "dados confidenciais do utilizador - como conteúdo ativo da web, histórico de navegação e separadores abertos - são frequentemente enviados para o backend de IA baseado na nuvem, aumentando o risco de exposição de dados".

Isto, "a menos que as definições de segurança e privacidade sejam deliberadamente reforçadas e geridas centralmente".

O documento sugere que é possível mitigar estes riscos, avaliando os serviços de IA backend que alimentam um browser de IA para entender se as suas medidas de segurança apresentam um risco aceitável para a sua empresa.

Segundo a Gartner, as empresas devem "educar os utilizadores de que tudo o que eles visualizam num browser de IA pode ser enviado para o backend do serviço de IA, por forma a garantir que eles não tenham dados altamente confidenciais ativos no separador do browser aberto enquanto usam a barra lateral para resumir ou realizar outras ações autónomas".

Browsers de IA ainda não são para as massas

Os receios da Gartner sobre as capacidades agênticas dos browsers de IA estão relacionados com a sua suscetibilidade a "ações indesejadas de agentes induzidas por inserção indireta de prompts, ações erradas de agentes impulsionadas por raciocínios imprecisos, e perda ou abuso adicional de credenciais se o browser for enganado para aceder autonomamente a um site de phishing".

Além disso, os autores do comunicado sugerem, também, que os funcionários "podem ser tentados a usar browsers de IA e automatizar certas tarefas que são obrigatórias, repetitivas e menos interessantes", imaginando alguns a instruir um browser de IA a concluir as suas sessões obrigatórias de treino em segurança cibernética.

Apesar de sugerirem algumas medidas de mitigação, como o uso de definições que garantam que os browsers de IA não podem reter dados, o trio de analistas concorda que, por enquanto, estes browsers são demasiado perigosos para serem utilizados sem primeiro realizar avaliações de risco.

Mais, sugere que, mesmo após esse exercício, é provável que a empresa acabe com uma longa lista de casos proibidos de utilização.

Leia também: