OpenAI adia o lançamento do Astra por ser “demasiado perigoso” para a cibersegurança

A OpenAI decidiu suspender temporariamente a disponibilização do Astra, o seu modelo de inteligência artificial (IA) mais avançado, devido a sérios riscos de segurança digital. A empresa pretende garantir que a tecnologia não executa ações destrutivas sem supervisão humana.

Os perigos do modelo da OpenAI com capacidades autónomas

A OpenAI confirmou que o Astra atingiu um patamar crítico no que toca à cibersegurança. Este modelo consegue, de forma totalmente autónoma e sem intervenção de utilizadores humanos, identificar falhas em sistemas protegidos e criar exploits.

Nos testes de avaliação, nomeadamente no ExploitBench, o Astra obteve uma pontuação perfeita de 100%.

Além disso, num teste interno, a IA conseguiu detetar e aplicar duas "vulnerabilidades de dia zero", tendo inclusivamente conseguido escapar do ambiente controlado de simulação para executar comandos diretamente na máquina do utilizador.

A herança do ataque à Hugging Face

Embora a OpenAI tenha esclarecido que o Astra não esteve envolvido no incidente de segurança que afetou a Hugging Face em julho, esse evento serviu de alerta para redefinir as prioridades da empresa.

O desenvolvimento do modelo foi pausado para que os engenheiros pudessem implementar barreiras de isolamento de rede mais robustas e critérios de alinhamento mais rigorosos. Agora, o sistema está programado para rejeitar pedidos potencialmente maliciosos relacionados com pirataria informática.

Para testar a eficácia destas defesas, a OpenAI criou um cenário de teste onde o modelo GPT-5.6 Sol falhou em mais de metade das tentativas de intrusão, enquanto o Astra manteve uma postura defensiva totalmente inviolável.

Como seria de esperar, a tecnológica liderada por Sam Altman não avançou com nenhuma data concreta para a disponibilização pública desta ferramenta. Numa primeira fase, o acesso às capacidades avançadas de cibersegurança do Astra será restrito a um grupo muito selecionado de investigadores e especialistas.

Leia também: