OpenAI descobriu uma “ameaça para a humanidade”. Depois, despediu Sam Altman
A OpenAI terá feito uma descoberta, verdadeiramente, inquietante, que representa uma "ameaça para a humanidade". Depois de a ter verbalizado, numa conferência, Sam Altman foi despedido.
Conforme noticiado pela imprensa internacional, pouco antes de Sam Altman ser dispensado enquanto CEO da OpenAI, os seus investigadores escreveram uma carta ao conselho da empresa, a avisar que tinham feito uma descoberta importante. Essa que, de acordo com fontes próximas dos acontecimentos, poderia ser uma "ameaça para a humanidade".
As fontes próximas revelam que a carta e o novo algoritmo de IA que ela mencionava motivaram, também, a decisão tomada, mais tarde, pelo conselho, de despedir Altman e Brockman.
Numa mensagem interna, a OpenAI confirmou que havia um projeto chamado Q* (lê-se "Q star") e que tinha sido escrita uma carta a alertar para as suas potenciais implicações.
Segundo revelado pelas fontes próximas, há funcionários da OpenAI que acreditam que o Q* pode ser um game changer na procura pela Inteligência Artificial Geral (AGI). Conforme já vimos, trata-se de um sistema de IA capaz de se sobrepor aos humanos em qualquer tarefa.
No domínio da aprendizagem automática, o ChatGPT e os seus rivais são designados "papagaios estocásticos", pois baseiam-se em grandes modelos de linguagem (LLM) que, apesar de serem bons a gerar texto, não compreendem realmente o significado do que estão a processar.
Por sua vez, o Q* representa um novo marco no desenvolvimento de modelos de Inteligência Artificial generativos, na medida em que pode começar a imitar o raciocínio e a inteligência humana. Afinal, foi capaz de resolver vários problemas matemáticos que, ainda que simples, atribuem-lhe potencial.
Na carta que enviaram ao conselho da OpenAI, e sem especificar os riscos concretos, os investigadores consideraram este avanço um potencial perigo.
Despedimento de Sam Altman da OpenAI pode ter-se dado devido ao Q*
Quatro vezes na história da OpenAI, mais recentemente nas últimas duas semanas, tive a oportunidade de estar na sala onde deixo o véu da ignorância para trás e a fronteira da descoberta para a frente, e poder fazer isso é uma honra profissional.
Disse o CEO retornado, aquando da Economic Cooperation Summit da Ásia-Pacífico, em São Francisco, dando a entender, na mesma ocasião, que estariam para breve avanços no domínio da AGI.
O despedimento terá tido lugar no dia seguinte.
Proponha uma correção, faça uma sugestão
Loading ...
Uhh, misticismo pra fazer a gente se importar com esse circo todo. Quero mais que a OpenAI queime e leve junto o que o Twitter se tornou.
Será que foi a AI que o despediu…?
Person of interest…
+1111111111111
Lol é cada palhaçada à volta desta temática. Aposto que descobriram que até uma IA da treta faz melhor o trabalho de investigação que eles, essa sim deve ser a única ameaça que ele valorizam.
Sinto saudades da epoca e simplidade da infancia e da inocencia de um modo geral. Nem sei porque estou vivo lendo um filme de terror desses. Tenho odio desses cientistas e pesquisadores malucos que destroem tudo por “poder”. Desse jeito é melhor nem viver. Maldicao dessas pessoas gananciosas que se vendem por dinheiro continuando no cargo para ter poder fama e sucesso e riqueza. Desculpe, mas sempre encherguei esse sujeito (sam altman) como esfomeado por poder, mal carater, eu jamais trabalharia para uma empresa dessas como fez os 770 pessoas como a openai. Em breve teremos um “IA louca” invadindo todas as privacidades
+1
A verdade é que eles estao escondendo a verdade de nos, pois eles so pensam em continuar trabalhando para ter “dinheiro e poder”
o nascimento da SkyNET…
Era precisamente isto que vinha dizer!
curioso é até agora só ver comentários brasileiros
Então e a história “Q* (lê-se Q star)” é verdadeira ou não é verdadeira?
Foi um dos factores que levou 4 membros do ex-Conselho da OpenAI a destituir Sam Altman de CEO? Esses 4 foram:
– Adam D’Angelo – transitou para o atual Conselho
– Ilya Sutskever (cientista-chefe) – saiu do Conselho mas continua na OpenAI. Assinou a carta do pessoal da OpenAI a pedir o regresso de Sam Altman, lamentou ter participado nos atos do Conselho e depois escreveu que não há palavras para descrever a sua alegria por as coisas se terem resolvido
– Tasha McCauley e Helen Toner – que saíram do Conselho e não pertencem ao pessoal da OpenAI.
O Conselho acusou Sam Altman de deslealdade. E na altura foi noticiado que o Conselho considerava que Altman não se preocupava o suficiente com os riscos da IA. Uma vez que a decisão da OpenAi começar a trabalhar com a superinteligência artificial (AGI) compete ao Conselho – e se a tal Q* é um passo significativo em direção à AGI – e Altman não informou o Conselho, que veio a saber por portas travessas, sim a Q* pode ter sido um fator que levou à destituição de Altman.
Só mais um aspecto. Foi noticiado que Tasha McCauley e Helen Toner puseram como condição para a sua saída do Conselho que houvesse uma investigação independe a Altman. Não vai haver investigação nenhuma – Altman e a Microsoft ganharam por 10 a 0.
Vale a pena ver a página, que ainda não foi mexida, da OpenAI sobre a sua “estrutura”. Lê-se: “o conselho determina quando atingimos o AGI. Novamente, por AGI queremos dizer um sistema altamente autónomo que supera os humanos no trabalho economicamente mais valioso. Tal sistema é excluído das licenças IP e outros termos comerciais com a Microsoft, que só se aplicam à tecnologia pré-AGI”:
https://openai.com/our-structure
OpenAI era um empresa inicialmente com objetivos nao monetarios, mas que se transformou atualmente em uma empresa extremamente capitalista de crescimento exponencial apoiada e incentivada pelo transhumanista louco Sam Altman. Portanto, me parece que nao é mais confiavel. Se o produto fosse criado por uma empresa como a “Organizacoes Tabajara” com selo de qualidade do Seu Creyson hahahah, ate que eu confiaria pois perceberia que ainda existia “humanos” dentro de uma empresa dessas criando IAs. (veja youtube que entendera). Mas nao é. É criado por uma empresa que se tornou capitalista e sem identidade mais, sem o minino senso de perigo daquilo que eles estao criando. Ou seja, eles sabem muito bem que tem potecial de ser danoso para alguns. Ou seja, sabem dos riscos e mesmo assim continuam estando no mesmo cargos trabalhando e criando. Para mim, nao ha mais graca. Nao confio
Nao confio em nenhuma Big Techs e empresas ligadas a elas mais. So confio na “Organizacoes Tabajara” essa me tras confianca e um pouco de humanidade que resta ainda
Q no universo Star Trek é terrivelmente manipulador
Isto não vai ser bom. Podia, mas alguns “humanos” que querem ter poder a todo o custo, vão conseguir mais tarde criar o fim da humanidade. Tal como a bomba atómica, vai ser usado e aí já será tarde de mais! Aproveitem tudo durante a próxima década, porque depois de humanidade, o planeta terra terá muito pouco…
As mesmas pessoas que pensam asssim: ” A IA nao causara mal nenhum a humanidade ou a um individivio. Nao se preocupe. Ela é apenas uma ferramenta. Vamos continuar desenvolvendo e aprimorando elas” Deviam entrar na historia como doidos assim como foram essas pessoas aqui. https://www.bbc.com/portuguese/articles/ce7jrxnz9w2o
IA não é inteligência alguma. Nenhum algoritmo é capaz de ter uma intuição!. Mas a IA está a ser uma ferramenta ótima para nivelar conhecimento geral pele medíocre.