Vencedor do Prémio Nobel da Física abandonou a Google para avisar sobre o perigo da IA

Desde a integração de Inteligência Artificial (IA) em novos sistemas e aplicações, muitos têm sido os avisos sobre o seu potencial impacto. Um destes partiu do agora Prémio Nobel da Física, que abandonou a Google para alertar sobre o perigo que a tecnologia representa.

Esta semana, o físico americano John Hopfield e o especialista em IA Geoffrey Hinton receberam o Prémio Nobel da Física, num reconhecimento pelo trabalho desenvolvido na criação de redes neurais artificiais, inspiradas no cérebro humano, que fazem com que as máquinas consigam aprender.

Considerado o "padrinho" da IA, Geoffrey Hinton abandonou o seu cargo de vice-presidente e o seu trabalho enquanto engenheiro na Google, em 2023, para integrar a lista de vozes que tem alertado sobre o perigo da tecnologia. O especialista lançou, em 2012, as bases para as atuais redes neuronais.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

No ano passado, numa entrevista conduzida pelo The New York Times, Geoffrey Hinton disse que, anteriormente, pensava na Google como um "administrador adequado" da poderosa tecnologia. Esta perspetiva durou até a Microsoft ter estabelecido uma parceria com a OpenAI para lançar o GPT-4, que alimenta o ChatGPT, para as massas.

John Hopfield e o especialista em IA Geoffrey Hinton para o Prémio Nobel da Física 2024

"Gostava de ter uma espécie de receita simples" para a IA, disse Hinton

Conforme informámos, na mesma entrevista, Hinton revelou ter fortes receios de que a IA se torne num risco para a própria humanidade.

Na altura, admitiu que os chatbots mais avançados "ainda não são mais inteligentes do que nós, mas penso que em breve poderão vir a sê-lo". Nesse momento, o cientista informático de 76 anos não considerava que a IA estava no seu apogeu. Contudo, não viu o acordo entre a Microsoft e a OpenAI com bons olhos.

A maioria das pessoas achava que estava muito longe. E eu achei que estava muito longe. Pensava que faltavam 30 a 50 anos ou até mais. Obviamente, á não penso assim.

Disse, na entrevista.

Antes de deixar a Google e de assinar uma carta, juntamente com outras personalidades, a pedir uma pausa no desenvolvimento da IA, o informático foi à CBS News avisar que o mundo tinha chegado a um "momento crucial" em termos de tecnologia.

Penso que é muito razoável que as pessoas se preocupem com estas questões agora. Mesmo que isso não vá acontecer no próximo ano ou dois.

Durante uma conversa com o comité do Prémio Nobel, o agora professor emérito da Universidade de Toronto, partilhou que pensa que a IA pode escapar ao controlo humano a qualquer momento e que isso pode ser o fim do mundo.

Estamos a lidar com algo em que temos muito menos ideia do que vai acontecer e do que fazer. Gostava de ter uma espécie de receita simples que dissesse que, se fizermos isto, tudo vai correr bem. Mas não tenho.

Sobre o Prémio Nobel da Física, que ganhou esta semana, Geoffrey Hinton revelou que espera que o "torne mais credível".