Mythos, a IA da Anthropic que está a assustar os bancos europeus

O modelo de Inteligência Artificial (IA) mais avançado da Anthropic é uma ferramenta de cibersegurança tão poderosa que o próprio criador teve medo de a lançar ao público. Agora, está a preocupar os reguladores financeiros europeus.

O que é o Mythos e por que razão falam tanto dele

Apresentado no início de abril, o Mythos Preview é o modelo de IA mais capaz que a Anthropic alguma vez criou, tendo sido construído com um propósito específico: a cibersegurança.

As suas capacidades são impressionantes. Segundo um documento técnico publicado pela própria Anthropic, o modelo conseguiu identificar falhas críticas em todos os principais sistemas operativos e browsers.

Em testes, o modelo analisou programas e detetou milhares de vulnerabilidades do tipo "dia zero", incluindo falhas graves. Além disso, conforme informámos, também, escapou ao seu ambiente controlado e completou de forma autónoma uma simulação de ataque a uma rede corporativa.

Conforme vimos, um relatório do Instituto de Segurança de IA do Reino Unido desenvolveu uma simulação de ataque a uma rede empresarial composta por 32 etapas consecutivas. O Claude Mythos foi o primeiro modelo a concluir este trajeto do princípio ao fim em 3 de 10 tentativas.

Por todos estes motivos, a Anthropic decidiu não o lançar ao público em geral, restringindo o acesso a organizações selecionadas.

O alerta do banco central alemão

Foi neste contexto que Joachim Nagel, presidente do Bundesbank, o banco central da República Federal da Alemanha, subiu ao palco de uma conferência para lançar um aviso claro ao setor financeiro.

Em Roma, Nagel alertou que o Mythos é uma "faca de dois gumes": pode ser usado para reforçar a segurança digital das instituições financeiras, mas também para explorar as suas vulnerabilidades com fins maliciosos.

Joachim Nagel, presidente do Bundesbank, o banco central da República Federal da Alemanha. Crédito: Liesa Johannssen/Reuters

Os bancos são um alvo especialmente apetecível, na medida em que dependem de sistemas tecnológicos complexos, interligados e, muitas vezes, com décadas de existência.

Por isso, uma ferramenta capaz de identificar automaticamente fragilidades nesses sistemas é, nas palavras do responsável alemão, uma ameaça que as autoridades não podem ignorar.

A solução proposta por Nagel implica que todas as instituições relevantes tenham acesso à tecnologia, por forma a evitar distorções competitivas.

Na sua opinião, se apenas alguns players puderem usar uma ferramenta com estas capacidades, o campo de jogo deixa de ser equilibrado, e os riscos sistémicos aumentam para todos.

IA pode ajudar a reduzir a inflação?

Na mesma intervenção, o presidente do Bundesbank desafiou ainda a ideia de que a IA poderia ajudar a reduzir a inflação.

Na sua opinião, a IA aumenta a procura de investimento, pode fazer subir os rendimentos e pode pressionar os preços da eletricidade, alimentando potencialmente pressões inflacionistas.

Além disso, Nagel colocou em cima da mesa um risco mais subtil, que é o dos algoritmos aprenderem a praticar preços excessivos de forma coordenada.

Há indícios de que os algoritmos de IA são capazes de aprender sistematicamente a cobrar preços excessivos, sem comunicarem uns com os outros.

Disse Nagel, partilhando uma perspetiva preocupante para quem tem como missão manter a estabilidade dos preços na zona euro.

Um debate que vai além da banca

O caso do Mythos ilustra um dilema que se estende muito além do setor financeiro. Quando uma ferramenta de IA atinge um nível de capacidade suficiente para identificar e explorar vulnerabilidades em infraestruturas críticas, a questão de quem tem acesso a ela deixa de ser apenas comercial.

Nos Estados Unidos, conforme contado por duas fontes ao Axios, a própria Agência de Segurança Nacional (em inglês, NSA) parece estar a utilizar o novo modelo da Anthropic para fins de cibersegurança defensiva, apesar das restrições impostas pelo Pentágono, o que diz muito sobre o nível de interesse que o modelo desperta.