A OpenAI terá feito uma descoberta, verdadeiramente, inquietante, que representa uma “ameaça para a humanidade”. Depois de a ter verbalizado, numa conferência, Sam Altman foi despedido.
Conforme noticiado pela imprensa internacional, pouco antes de Sam Altman ser dispensado enquanto CEO da OpenAI, os seus investigadores escreveram uma carta ao conselho da empresa, a avisar que tinham feito uma descoberta importante. Essa que, de acordo com fontes próximas dos acontecimentos, poderia ser uma “ameaça para a humanidade”.
As fontes próximas revelam que a carta e o novo algoritmo de IA que ela mencionava motivaram, também, a decisão tomada, mais tarde, pelo conselho, de despedir Altman e Brockman.
Numa mensagem interna, a OpenAI confirmou que havia um projeto chamado Q* (lê-se “Q star”) e que tinha sido escrita uma carta a alertar para as suas potenciais implicações.
Segundo revelado pelas fontes próximas, há funcionários da OpenAI que acreditam que o Q* pode ser um game changer na procura pela Inteligência Artificial Geral (AGI). Conforme já vimos, trata-se de um sistema de IA capaz de se sobrepor aos humanos em qualquer tarefa.
No domínio da aprendizagem automática, o ChatGPT e os seus rivais são designados “papagaios estocásticos”, pois baseiam-se em grandes modelos de linguagem (LLM) que, apesar de serem bons a gerar texto, não compreendem realmente o significado do que estão a processar.
Por sua vez, o Q* representa um novo marco no desenvolvimento de modelos de Inteligência Artificial generativos, na medida em que pode começar a imitar o raciocínio e a inteligência humana. Afinal, foi capaz de resolver vários problemas matemáticos que, ainda que simples, atribuem-lhe potencial.
Na carta que enviaram ao conselho da OpenAI, e sem especificar os riscos concretos, os investigadores consideraram este avanço um potencial perigo.
Despedimento de Sam Altman da OpenAI pode ter-se dado devido ao Q*
Quatro vezes na história da OpenAI, mais recentemente nas últimas duas semanas, tive a oportunidade de estar na sala onde deixo o véu da ignorância para trás e a fronteira da descoberta para a frente, e poder fazer isso é uma honra profissional.
Disse o CEO retornado, aquando da Economic Cooperation Summit da Ásia-Pacífico, em São Francisco, dando a entender, na mesma ocasião, que estariam para breve avanços no domínio da AGI.
O despedimento terá tido lugar no dia seguinte.