Proponha uma correção, faça uma sugestão
CEO da OpenAI responde à carta aberta que pede para parar de alimentar a IA
"Muita calma no olho do furacão". Estas foram as palavras de Sam Altman CEO da OpenAI numa primeira reação às notícias sobre a carta aberta assinada por grandes nomes da tecnologia e da ciência que pedia que o treino de sistemas Inteligência Artificial mais poderosos que o GPT-4 fosse parado imediatamente.
Uma das grandes notícias do dia de ontem foi a da carta aberta intitulada de "Pause Giant AI Experiments", assinada por nomes como Elon Musk, Steve Wozniak, Stuart Russell, Jaan Tallinn, Luis Moniz Pereira, entre mais de 1100 outros nomes, que pede para se fazer uma pausa de pelo menos 6 meses ao treino de sistemas de Inteligência Artificial (IA) mais poderosos que o GPT-4.
Parar o desenvolvimento da IA ou avaliar riscos e benefícios?
As reações públicas não se fizeram tardar e a opinião acaba por ser unânime: há um mundo desconhecido que está a ser criado, que vai transformar a comunicação, a tecnologia e a sociedade, provavelmente rápido de mais para que todos se consigam adaptar às mudanças.
Numa primeira reação, Sam Altman, CEO da OpenAI, apelou de certa forma à calma ao conteúdo desta carta.
very calm in the eye of the hurricane ☺️
— Sam Altman (@sama) March 30, 2023
Recorde-se que a OpenAI é a grande responsável pelo "boom" da inteligência artificial neste arranque de ano. Depois do ChatGPT baseado no GPT-3.5 ter chegado ao mundo, a evolução para o GPT-4 veio trazer muitas questões quanto à velocidade que a tecnologia está a ser alimentada.
Mais tarde, através de outro tweet, Sam Altman trouxe mais três pontos ao debate, para que a sociedade possa olhar para os sistemas de IA com mais confiança. São eles:
- a habilidade técnica para alinhar uma superinteligência
- coordenação suficiente entre a maioria dos principais esforços da AGI (Artificial General Intelligence)
- uma estrutura regulatória global eficaz, incluindo governação democrática
Sam Altman veio dizer recentemente que os riscos do ChatGPT-4 estão a ser mensurados e defendeu que devem sempre ser avaliados os benefícios e ameaças antes de escalar a tecnologia ao público.
Não acho que seria bom para nós abrir o código GPT-4, por exemplo. Acho que isso causaria algum estrago no mundo, ou pelo menos há uma hipótese disso. Não podemos ter certeza que não.
Palavras do CEO da OpenAI ao podcast On With Kara Swisher.
Elon Musk, um idiota
Foi nesta conversa que teceu algumas palavras sobre o papel de Elon Musk nesta "luta" contra o sistema de inteligência artificial.
Elon Musk foi um dos fundadores da OpenAI (ao lado de Sam Altman) em 2015, mas saiu da empresa em 2018 por não concordar com o rumo da empresa. À época, terá dito que o ChatGPT era “assustadoramente bom”, as recentes críticas têm-se feito ouvir nos últimos meses, com o sucesso da ferramenta.
Nas mais recentes críticas, Musk chegou a dizer que o ChatGPT era treinado para ser "woke", o que em tradução literal significa um conceito sobre quem tem consciência social sobre racismo, homofobia e outras causas, o que segundo ele não faz sentido já que a tecnologia precisa ser agnóstica.
No podcast, Sam Altman, disse que acha que "Elon Musk se preocupa com o futuro em relação à inteligência artificial regenerativa", mas vê-o como "um idiota" por estar preocupado com o "futuro da humanidade".
Recorde os principais argumentos descritos na carta aberta:
Este artigo tem mais de um ano
Loading ...
6 meses é o tempo que a Google (e outras empresas) precisa para começar a ombrear o ChatGPT, tiveram anos parados a pensar na forma de vender a sua IA e agora precisam de tempo. Gosto de ver o Elon Musk preocupado com as mentiras que a AI pode gerar e influenciar a pessoas, mas ainda não vi uma única ação para eliminar ou atribuir ao grupo ” a Terra é plana” o estatuto de comédia (se pagarem até tem direito ao pássaro azul). Relativamente ao que pode alterar no mundo académico, entendo que já está na hora do método de ensino ser alterado e se temos uma nova ferramente ela deve ser integrada ( quantos é que já tiveram uma cadeira que foi somente um power point). É claro que a AI tem de ter regulamentação, mas por quem governos, federações. No entanto quando estamos a ganhar ninguém fala em regulamentação, ver o caso da internet regulada pela china, russia e afins, ver o caso das bitcoins e NFT. A AI vai alterar o mundo e a forma como vivemos nele, tal como aconteceu com a revolução industrial e a internet com a globalização.
Mas ele parar de dizer mentiras tá quieto…
Só que não! Revolução Industrial, internet, criou empregos.
AI vai cortar metade da necessidade de empregos, inicialmente engordar os capitalistas, e depois causar ruptura económica, porque a base da economia é o emprego que da de comer e cria consumo.
Ou seja, estamos fu….
Só que não. O movimento do Ludismo, na revolução industrial, defendia precisamente a destruição das máquinas e da automação porque roubava empregos aos homens na altura. O problema não está nos empregos que se perdem, está é na demora da adaptação a essa nova realidade, e aos novos empregos que se gera. Há empregos maus que existem hoje (call center por exemplo), que estas tecnologias vão ditar o seu fim. Assim, como a industrialização acabou com outros empregos maus. Ou você tem o sonho de ser cavador de terra? Ou acendedor de candeeiros de rua?
Espero que vc esteja certo e a IA ou AGI respeite a liberdade, individualidade e privacidade de cada ser humano. Acho pouco provavel isso, ja que alguns proprios seres humanos ja nao fazem isso com eles mesmos. Entao…eu nao quero estar nesse futuro horrivel de voces, contruido por voces
A mesma preocupação de que a AI vai “acabar” com os empregos… Pensem um bocadinho quantas plataformas de AI conseguem ter:
– imaginação;
– criatividade;
– humor;
– preocupações ambientais e/ou sociais;
São máquinas, e portanto não pensam, não têm consciência, n têm o fator humano.
Até mesmo na área da programação foi feito um teste de uma coisa simples, pediu-me à AI para escrever um confio que dissesse se o número introduzido pelo utilizador fosse para ou ímpar (coisa relativamente simples para quem sabe ), e não foi capaz de o fazer de forma 100% eficiente. Funcionou, mas depois puseram o mesmo código feito por um humano, e o código feito pela AI, era maior (tinha mais linhas de código), e ficou um ficheiro maior. Ok eram só KB mas em software com MB ou GB esse aumento faz diferença.
A AI não vai tirar empregos a ninguém pode é haver uma redução em alguns departamentos, mas não vai acabar com eles.
Não se esqueçam que se pedirem à AI que escreva um novo livro do Harry Potter, ele não vai criar um novo com nova história, vai pegar naqueles que existem e cria um a partir dos outros, e toda a gente sabe que se eu criar algo feito por outros, corro o risco de ter problemas legais, e mais pelo o facto de AI não conseguir criar algo do zero, incorre a plágio para criar algo… E isso é bom????
Musk afastou-se da OpenAI … depois de se ter oferecido para a dirigir e os restantes fundadores não terem aceite. Está a criar a sua própria IA, a que chama “BasedIA”, que segundo ele há de correr com a “WokeIA” (“AI Despertar), como o ChatGPT e outras, baseadas em princípios morais. A “WokeIA” transformou-se, diz ele, na “ClosedIA”.
Embora a ChatGPT tenha ganho protagonismo, há montes de IA. Uma delas, da Snapchat, dirigida a jovens, ensina-os a mentir aos pais e a disfarçar o cheiro do álcool e drogas. Isto para dizer que em matéria de IA há muito para regular.
Diz-se que o GPT-5 está previsto para dezembro, com uma versão provisória, 4.5, para setembro/outubro.
Quanto à AGI (Artificial General Intelligence, software capaz de aprender qualquer tarefa ou assunto) que há de suceder à AI (modelo criado para resolver problemas específicos e prestar determinados serviços específicos) e a progressão para “Superinteligent AIs/ “Strong AIs” (que provavelmente serão capazes de estabelecer seus próprios objetivos) ainda há um longo caminho.
Questiona Bill Gates: “Quais serão esses objetivos? O que acontece se eles entrarem em conflito com os interesses da humanidade? Devemos tentar evitar que uma “IA forte” (“strong AI”) seja desenvolvida? Essas perguntas ficarão mais urgentes com o tempo”.
Acho que ainda não estamos perto da “IA forte, superinteligente”, que define os seus próprios objetivos, para parar o treino das IA mais avançadas que o GPT-4. Mas em alguma altura se vai ter que parar para pensar.
Bill Gates: “A Era da AI começou”
https://www.gatesnotes.com/The-Age-of-AI-Has-Begun
Espero que a IA super IA volte contra seus proprios criadores. desenvolvedores, financiadores, pois eles foram irresponsaveis por acordar um monstro que nao tem capacidade de se desligar. Estou amedrontado e quero ficar longe desse futuro lixo que ira acontecer
Humanos sao diferentes de maquinas. Exemplo, “Eu posso me suicidar, eu quero me suicidar. Eu quero morrer”. Maquinas nao consegue fazer isso. Portanto elas nunca serao iguais humanos. Temos que desenvolver maquinas que se desligam. que tenham sensibilidade suficiente para nao fazer mal, machucar a alguem ou importunar. Ou que tenha vida util e envelhecem como a gente
As Maquinas, por sua vez, e de acordo com noticias recentes, concordam :), pois um idiota foi questionar a AI sobre se devia suicidar-se e assim podia ajudar a combater as alterações climaticas, e a AI como é normal, pensou. “ora um humano a menos a respirar e a poluir”. Sim deves suicidar-te” e ele assim fez….
Dá-lhes com força Sam
Terminator 3… cada vez mais real
CEO da OpenAl mata Elon Idiota Musk com um head-shot numa conversa.
Se os desenvolvimentos em IA seguirem de rédea solta, sem produção de regulação de ordem ética, abrimos a caixa de pandora
E bem possivel que sim. Sempre ira estabeler seus proprios objetivos enviesados, que para mim sao futeis e infantis. Minha vontade e dizimar e esquartejar esses desenvolvedores irresponsaveis por desenvolver diretamente e indiretamente uma Super IA que esta crescendo igual cancer sem respeito, sem controle e sem modo de protecao para auto-desligamento em caso de importunacao. Espero que o primeiro da lista que a IA mate o lider, o proprio Sam Altman, depois os pesquisadores e financiadores do projeto iguais nos filmes. Por enquanto estou amedrontado com tudo isso
A guerra entre HOMENS E MÁQUINAS, será uma realidade, tudo será uma questão de tempo, a questão é saber quem vence, será duro e real
A malta nova fresquinho das universidades toda iludida à espera de ir para os seus futuros empregos na AI.
Os que trabalham e que lhe dão o sustento para andar lá a estudar ou na borga a ficar a cabeça à espera donquenlhes vai acontecer num futuro próximo.
Porque não se iludam: uma empresa é para dar lucro e enquanto houver um fdp de um empregado o patrão vai achar que é dinheiro que está a atirar ao vento. Depois de alguns anos de experiência de trabalho vão ver precisamente isso. No íncio vão cheios de ilusões e vontade de.mudsr o mundo, mas os patrões vão-se encarregar de vos mostrar indirectamente o que realmente pretendem aí fim de várias promessas quebradas. Vamos ver quanto anos se vão aguentar até os vossos futuros postos de trabalho serem também substituídos.
Boa sorte!
Todos parecem querer ter ou criar o oráculo ou a bruxa … alguém com quem falar … gritam pelo ambiente e estas mesmas empresas, como se sabe vão atirando areia e ilusões que as beneficie…
“o ChatGPT era treinado para ser “woke” – e é verdade!
Eu próprio já testei em vários cenários e vê-se claramente a tendência!
The Singularity Is Near: When Humans Transcend Biology
Ray Kurzweil
https://www.amazon.com/Singularity-Near-Humans-Transcend-Biology/dp/0143037889
Sem dúvida ! A questão é conseguir percebe lo ‘a anteriori’
Ray Kurzweil previu que os humanos alcançarão a imortalidade com a ajuda de nanorobôs em apenas sete anos.
https ://canaltech.com.br/saude/humanidade-deve-alcancar-imortalidade-em-2030-diz-ex-engenheiro-do-google-245320/