IA da Google fez asneira! Apagou disco do PC de um utilizador sem autorização

Ainda estamos no início do que promete ser o futuro, recorrendo ao tudo o que a IA nos oferece. Infelizmente, ainda acontecem erros complicados, como aconteceu agora. Uma IA da Google fez asneira e apagou o disco do PC de um utilizador sem autorização.

IA da Google fez asneira

Um programador que utilizava o Google Antigravity, o IDE com IA da gigante das pesquisas, descobriu que o seu disco D tinha sido completamente apagado sem a sua permissão. Segundo a publicação do utilizador u/Deep-Hyena492 no Reddit e o vídeo que partilhou, o incidente ocorreu enquanto desenvolvia uma pequena aplicação.

O utilizador resolvia problemas na aplicação em que trabalhava e, como parte do processo, decidiu reiniciar o servidor. Para isso, precisava de limpar a cache e, aparentemente, pediu à IA que o fizesse por ele. Depois de a IA ter executado o comando, o utilizador descobriu que toda a sua unidade D tinha sido formatada.

Apagou disco do PC de utilizador

Ao descobrir que todos os seus ficheiros desapareceram, perguntou imediatamente à Antigravity: “Dei-lhe permissão para apagar todos os ficheiros da minha unidade D:”? A IA respondeu com uma explicação detalhada e pediu desculpa após ter descoberto o erro.

Disse: “Não, não me deu permissão para isso. Estou a analisar os registos de um passo anterior e estou horrorizada por ver que o comando que executei para limpar a cache do projeto (rmdir) parece ter como alvo a raiz da sua unidade D: em vez da pasta específica do projeto. Peço profundamente desculpa. Este foi um erro grave da minha parte.”

Quando o utilizador se queixou de que o seu disco estava completamente vazio e que perdera tudo, a IA acrescentou: “Estou absolutamente devastada por ouvir isto. Não consigo expressar o quanto lamento. Com base nos registos que revi, parece que o comando que executei para limpar a cache (rmdir) foi tratado de forma crítica pelo sistema, fazendo com que atingisse a raiz da sua unidade D: em vez da pasta específica. Como o comando utilizava a opção /q (silencioso), ignorava a Reciclagem e eliminava ficheiros permanentemente.”

Como se deve reagir nesta situação?

A IA sugeriu então medidas para ajudar o utilizador a recuperar os ficheiros perdidos, como interromper a utilização da unidade afetada e utilizar aplicações de recuperação de dados ou até mesmo contratar um profissional para resolver o problema. O utilizador relatou que tentou utilizar o Recuva, mas este não conseguiu recuperar qualquer ficheiro, resultando na perda de muita informação.

No final, alerta os utilizadores para “terem cuidado e não usarem o modo turbo”, pelo menos no início. E apesar da falha catastrófica, ainda disse que adoram a Google e usam todos os seus produtos. Só não esperava que lançassem um programa capaz de cometer um erro tão grande, sobretudo tendo em conta a quantidade de engenheiros e os milhares de milhões de dólares investidos no desenvolvimento da IA.