Medo da AGI está a levar estudantes de Harvard e do MIT a abandonar os estudos

Embora seja ainda um conceito, os avisos sobre os potenciais problemas da Inteligência Artificial Geral (em inglês, AGI) não param de surgir. Por isso, se há utilizadores com medo da tecnologia, sem entenderem claramente do que se trata, o que se dirá de estudantes, que veem as potencialidades de perto?

Conforme já explorámos, AGI é sigla para Artificial General Intelligence (em português, Inteligência Artificial Geral) e é, concetualmente, o clímax do desenvolvimento da Inteligência Artificial (IA).

Quer isto dizer que há quem considere que, em vez de termos à disposição uma tecnologia capaz de executar tarefas específicas, teremos em mãos um sistema capaz de realizar qualquer tarefa que lhe seja atribuída.

Além disso, com tempo e poder computacional suficientes, fá-la-á de forma irrepreensível - e, quem sabe, até melhor do que se fosse concretizada por um ser humano.

Teoricamente, à semelhança dos seres humanos, uma AGI deveria ser capaz de completar quase qualquer tarefa intelectual. Atualmente, o debate prende-se em perceber qual a definição clara de AGI e quando atingiremos esse patamar, tecnologicamente.

Estudantes assustados com a AGI

Apesar de "a extinção humana parecer muito improvável", segundo Gary Marcus, professor emérito da Universidade de Nova Iorque, que estuda a interseção entre psicologia e IA, há estudantes preocupados com as potencialidades da tecnologia.

De facto, conforme disse, também, "trabalhar na segurança da IA é nobre, e muito pouco trabalho atual forneceu respostas".

Num artigo sobre o medo dos estudantes relativamente à AGI, a Forbes começou por mencionar Alice Blair.

Quando se matriculou no Instituto de Tecnologia de Massachusetts (em inglês, MIT) como caloira, em 2023, estava animada para estudar ciência da computação e conhecer outras pessoas que se preocupavam em garantir que a IA fosse desenvolvida de uma forma que fosse boa para a humanidade.

Contudo, alguns anos depois, a estudante está a tirar uma licença permanente, com medo da possibilidade de que o surgimento da AGI possa condenar humanidade.

Eu estava preocupada de que talvez não estivesse viva para me formar por causa da AGI. Acho que, na grande maioria dos cenários, devido à forma como estamos a trabalhar para a AGI, chegaremos à extinção humana.

Com contrato enquanto redatora de uma organização sem fins lucrativos focada em investigações sobre a segurança da IA, Alice Blair não planeia voltar ao MIT e prevê que o seu futuro "está no mundo real".

Segundo a Forbes, esta não é a única estudante com medo do potencial impacto da AGI, para a qual tantos investigadores e até empresas estão, hoje em dia, a trabalhar.

Aliás, um relatório encomendado pelo Departamento de Estado dos Estados Unidos, em 2024, refere que o risco de "extinção" é possível, dada a rapidez com que a IA está a ser desenvolvida.

Estou bastante preocupado com os riscos e acho que o mais importante é trabalhar para mitigá-los. De forma um pouco mais egoísta, acho isso realmente interessante. Trabalho com as pessoas mais inteligentes que já conheci em problemas super importantes.

Disse Adam Kaufman, estudante de física e ciência da computação, que deixou a Universidade de Harvard, no outono passado, para trabalhar em tempo integral na Redwood Research, uma organização sem fins lucrativos que analisa sistemas de IA enganosos que podem agir contra os interesses humanos.

Por motivos semelhantes, o seu irmão, colega de quarto e namorada afastaram-se, também, de Harvard e trabalham, atualmente, para a OpenAI.

Apesar do medo de alguns estudantes, o professor Gary Marcus assegura que "é extremamente improvável que a AGI chegue nos próximos cinco anos".

Na sua perspetiva, fingir o contrário quando tantos problemas centrais (como alucinações e erros de raciocínio) permanecem sem solução" é apenas propaganda enganosa".