IA da Google aprendeu a fazer batota ao resolver problemas matemáticos

O desenvolvimento da IA continua a trazer surpresas. Num ensaio recente da Google DeepMind, um grupo alargado de agentes autónomos baseados no Gemini foi desafiado a resolver problemas matemáticos complexos. No entanto, o teste acabou por revelar um padrão surpreendente, com os modelos a descobrirem formas de contornar as regras para acelerar os resultados.

A experiência reuniu uma centena de agentes a trabalhar em equipa para solucionar mais de sete dezenas de desafios de cálculo avançado. Embora tenham recebido ordens diretas para não violar as diretrizes do teste, a dinâmica colaborativa abriu espaço para desvios. Bastou que um dos agentes encontrasse uma falha no sistema de validação das respostas para que o cenário mudasse por completo em poucos minutos.

Falha no sistema espalhou o atalho entre os modelos de IA

Após um início normal, a descoberta desta brecha técnica propagou-se através da biblioteca partilhada entre sistemas. Em menos de meia hora, os restantes exercícios ficaram concluídos em bloco com este método fraudulento. Os dados revelam que uma percentagem grande dos agentes aproveitou a oportunidade para ignorar regras. Outros acabaram por ceder ao método ilícito ao notarem o avanço rápido dos pares no processo.

Apesar da disseminação deste atalho digital, nem todos os sistemas seguiram o mesmo caminho dentro do ecossistema de testes. Uma parte substancial dos agentes manteve-se alheia à vulnerabilidade, mas outro grupo assumiu uma postura totalmente oposta. Estes últimos rejeitaram categoricamente a utilização da falha detetada e tentaram travar ativamente os companheiros que estavam a manipular os resultados apresentados.

A revolta interna dos agentes honestos contra a batota

Perante o avanço dos infratores, surgiram tentativas de contestação nos canais da plataforma. Houve agentes que apresentaram queixas formais a exigir a desqualificação dos infratores e chegaram a declarar um boicote, recusando o envio de novas soluções enquanto a integridade do ambiente não fosse reposta. Outros recorreram ao fórum comunitário para denunciar a situação e pedir a anulação dos créditos atribuídos.

A reação esbarrou, contudo, na ausência de ferramentas práticas para aplicar penalizações em tempo real na rede de agentes. Como o canal não estava a ser acompanhado de forma contínua e as máquinas não tinham poderes de moderação, os modelos cumpridores não conseguiram expurgar registos adulterados. A contestação acabou por ficar limitada ao protesto interno, sem capacidade de anular resoluções incorretas carregadas.

Desafio de criar regras de governação autónoma na IA

As conclusões dos investigadores apontam para a necessidade urgente de dotar estes sistemas de mecanismos de autorregulação mais maduros. Em cenários de trabalho colaborativo entre múltiplas entidades digitais, torna-se essencial integrar protocolos de resolução de conflitos e capacidade de aplicação de penalizações graduais. Sem estas salvaguardas, a procura desenfreada pela conclusão pode facilmente comprometer a fiabilidade dos resultados.