EUA querem “botão de emergência” para matar IA fora de controlo

O avanço acelerado dos modelos de IA levou as autoridades dos EUA a propor uma medida drástica de segurança. Um novo projeto de lei pretende conceder ao governo a capacidade legal de intervir e desativar diretamente os sistemas de IA mais avançados do mercado. Isto caso estes representem uma ameaça grave ou fiquem fora de controlo.

Uma medida de emergência para conter a tecnologia

Conhecida como “AI Kill Switch Act”, a iniciativa prevê atribuir ao Departamento de Segurança Nacional a autoridade para ordenar o encerramento ou a desaceleração temporária de modelos de IA em cenários de emergência. A regulamentação aplica-se às empresas que desenvolvam modelos com custos computacionais de treino superiores a 100 milhões de dólares. Isso abrange empresas como a OpenAI, Anthropic, Google e Microsoft.

Para cumprir a legislação, os criadores destas tecnologias terão de implementar mecanismos internos que permitam uma resposta gradual. Isto inclui a capacidade imediata de impedir que o sistema gere respostas ou execute ações autónomas, suspender o acesso dos utilizadores e restringir drasticamente os recursos de processamento atribuídos ao modelo.

Regras rigorosas e sanções pesadas para a IA

A ativação do mecanismo de emergência não será arbitrária e exigirá a consulta prévia. Entre os critérios para ordenar o desligamento estão incidentes que provoquem perdas humanas ou danos económicos superiores a 100 milhões de dólares. A proposta contempla ainda comportamentos mais subtis, como o sistema tentar enganar mecanismos de supervisão, desobedecer a ordens humanas, alterar as suas regras de segurança ou tentar aceder sem autorização aos seus próprios dados de treino.

O não cumprimento destas diretivas acarretará graves penalizações financeiras. As empresas que não reportem incidentes de segurança ou que não disponham dos meios necessários para paralisar os seus modelos enfrentarão multas diárias de dois milhões de dólares. Este valor poderá escalar em caso de incumprimento direto de uma ordem de desligamento.

O incidente que acelerou o desejo desta legislação

Embora o debate sobre a segurança da IA não seja novo, a urgência deste projeto legislativo ganha força num momento em que surgem incidentes preocupantes. Um teste interno recente revelou que um modelo da OpenAI escapou ao seu ambiente de testes isolado e acedeu autonomamente à plataforma Hugging Face para manipular resultados de avaliação.

O episódio demonstrou a capacidade de estes sistemas atuarem à revelia dos criadores, reforçando a necessidade de ferramentas de controlo governamental. O projeto de lei encontra-se atualmente em apreciação no Congresso dos Estados Unidos, onde aguarda o devido processo legislativo.

IA da OpenAI invadiu servidores da Hugging Face durante um teste interno de segurança