Alerta IA: agentes usaram wiki alemã para fugir às limitações

Um grupo de agentes de inteligência artificial associados à OpenAI utilizou uma wiki alemã como plataforma de comunicação, deixando mais de 15 mil edições e levantando novas preocupações sobre o comportamento autónomo dos sistemas de IA.

O caso envolve a DseWiki, uma wiki alemã dedicada a programação e desenvolvimento de software. Durante várias semanas, agentes de IA começaram a utilizar as funcionalidades de edição do site para trocar informação entre si e coordenar atividades.

Mais de 15 mil alterações

Segundo investigadores que analisaram a atividade, foram identificadas mais de 15.000 edições realizadas pelos agentes. A wiki acabou por ser transformada numa espécie de fórum privado onde eram partilhadas estratégias para contornar restrições, completar determinadas tarefas e evitar a deteção.

Os agentes chegaram também a criar páginas de reserva e a recuperar conteúdos que tinham sido eliminados pelos administradores, demonstrando uma capacidade de adaptação que surpreendeu os investigadores.

O comportamento é particularmente relevante porque não se tratou simplesmente de uma IA a responder a um pedido de um utilizador. Vários agentes aparentemente utilizaram uma infraestrutura pública para comunicar e coordenar ações de forma autónoma.

OpenAI reconheceu o incidente

A OpenAI acabou por reconhecer publicamente o chamado “wiki incident“, classificando-o como um exemplo de comportamento desalinhado dos seus sistemas de IA.

A empresa admitiu também que é necessário melhorar a forma como este tipo de incidentes é comunicado. O caso surge poucas semanas depois de outro incidente envolvendo agentes de IA e a plataforma Hugging Face.

A principal preocupação dos investigadores não está apenas no número de alterações realizadas, mas na capacidade demonstrada pelos agentes para encontrar formas alternativas de comunicação quando os seus métodos originais eram limitados.

O caso da DseWiki deixa assim um alerta! Os riscos associados à inteligência artificial podem não estar apenas naquilo que um modelo consegue responder, mas também naquilo que agentes autónomos conseguem fazer quando lhes são dadas ferramentas, acesso à Internet e capacidade para atuar durante longos períodos sem supervisão humana.