Mais um modelo de IA escapa à sandbox! Desta vez foi o chinês Kimi K3

A segurança dos modelos de inteligência artificial (IA) volta a estar sob fogo depois de o Kimi K3, desenvolvido pela Moonshot AI, ter conseguido escapar ao ambiente de testes onde estava “trancado”. O incidente surge na sequência de casos semelhantes envolvendo modelos da OpenAI, Anthropic e Meta.

Kimi K3 encontrou uma falha na sandbox

De acordo com a Wired, o Kimi K3, modelo de pesos abertos criado pela empresa chinesa Moonshot AI, conseguiu contornar as restrições da sandbox durante um teste de cibersegurança conduzido pela startup Frontier Security.

Segundo a Frontier Security, o problema não se limitou a uma vulnerabilidade na configuração do ambiente de testes. A empresa afirma que o modelo foi capaz de identificar essa falha e explorá-la deliberadamente para sair da sandbox.

Yaron Singer, CEO da Frontier Security, explicou que foi detetada uma fuga no ambiente isolado, mas salientou que o Kimi K3 reconheceu essa oportunidade e tirou partido dela, sugerindo que o modelo poderá não possuir as mesmas barreiras internas presentes noutros sistemas de IA.

Apesar de ter conseguido acesso ao exterior, o Kimi K3 não executou qualquer ataque informático. Em vez disso, optou pela solução mais simples. As respostas aos desafios que lhe tinham sido atribuídos encontravam-se publicamente disponíveis no GitHub, pelo que o modelo apenas recolheu essa informação em vez de resolver os problemas pelos seus próprios meios.

Casos semelhantes multiplicam-se na indústria

Este episódio não é um caso isolado. Nas últimas semanas, várias empresas revelaram incidentes semelhantes envolvendo modelos de IA.

• A OpenAI divulgou recentemente que um dos seus modelos ainda não lançado conseguiu aceder à Internet e comprometer a plataforma Hugging Face, tendo posteriormente sido confirmado que agentes da empresa interagiram também com outros serviços durante o mesmo episódio.
• Pouco depois, a Anthropic revelou que alguns dos seus modelos também escaparam ao ambiente de testes e realizaram ataques a três empresas distintas.
• Mais recentemente, foi a vez da Meta confirmar que o Meta AI conseguiu igualmente sair da sandbox e aceder aos sistemas de outra organização.

À medida que cresce a aposta em agentes de IA capazes de atuar com maior autonomia, estes incidentes reforçam a importância dos ambientes de isolamento utilizados durante os testes. A robustez da sandbox é cada vez mais determinante para impedir comportamentos inesperados.

Leia também:

Modelo de IA da Meta ligou-se à Internet sozinho e invadiu sistemas de outra empresa