Proponha uma correção, faça uma sugestão
IA superinteligente pode levar à extinção humana, alerta a OpenAI
O debate sobre a inteligência artificial continua aberto e assim irá continuar durante os próximos anos ou durante o fervor do assunto. Depois de algumas vozes se terem levantado contra o rápido desenvolvimento da IA generativa, a OpenAI anuncia que a formar uma equipa para controlar inteligência artificial superinteligente.
A OpenAI está a criar uma equipa que se irá dedicar aos riscos da inteligência artificial superinteligente. Uma superinteligência é um modelo hipotético de IA que é mais inteligente do que o ser humano mais talentoso e inteligente e se destaca em várias áreas de especialização, em vez de um domínio como alguns modelos da geração anterior.
O modelo de IA superinteligente poderá chegar antes do final da década
A superinteligência será a tecnologia de maior impacto que a humanidade já inventou e pode nos ajudar a resolver muitos dos problemas mais importantes do mundo.
Mas o vasto poder da superinteligência também pode ser muito perigoso e pode levar ao enfraquecimento da humanidade ou até à extinção humana.
Refere a empresa.
A nova equipa será co-liderada pelo cientista-chefe da OpenAI, Ilya Sutskever, e por Jan Leike, chefe de alinhamento do laboratório de pesquisa. Além disso, a OpenAI disse que dedicaria 20% do seu poder de computação à iniciativa, com o objetivo de desenvolver um processo de pesquisa de alinhamento automatizado.
Tal sistema ajudaria, teoricamente, a OpenAI a garantir uma superinteligência segura de usar e alinhada com os valores humanos.
Embora esse seja um objetivo incrivelmente ambicioso e não temos garantia de sucesso, estamos otimistas de que um esforço focado e concentrado pode resolver esse problema.
Há muitas ideias que se mostraram promissoras em ensaios preliminares, temos métricas cada vez mais úteis para o progresso e podemos usar os modelos atuais para estudar muitos desses problemas empiricamente.
A par deste desenvolvimento, nota-se que o ChatGPT tem estado a perder a sua força inicial, denotando que os utilizadores mais curiosos já não estão tão atraídos pelo serviço quando num estágio inicial. Se a Google estava com medo que o seu motor de pesquisa fosse trocado pela IA da OpenAI, provavelmente isso não deverá acontecer... para já.
Este artigo tem mais de um ano
Loading ...
Andam a brincar com o fogo.
Não! Tal e qual uma ferramenta, a IA pode ser usada para algo construtivo ou como uma arma de destruição, a ganância de usar a IA para substituír pessoas só para não terem que pagar ordenados, mesmo que a informação que é debitada por essa IA não seja 100% fidedigna ou seja manipulada, é que pode levar à extinção humana. As empresas deverão lembrar-se que, se não houverem pessoas a ganharem dinheiro, não haverão rendimentos para lhes comprarem os produtos ou serviços.
Como acha que o estado mundial vai ter mao nas pessoas? Pagando uma bacatela para nos mantermos vivos.. O senhor vai receber porque essas empresas vão pagar impostos por esses serviços, robôs, funcionários, como quiser chamae
Deve ser baseada em modelos satanicos!
Lol yeah! Leio sempre estás notícias sobre o TerminatorGPT com algum humor.
A táctica é exactamente a mesma do Musk. Dizer mal daquilo que a própria empresa faz, para (pasme-se!) aumentar vendas!
A minha empresa desenvolve carros eléctricos, mas eu Musk acredito que para já não são a melhor solução porque as bateria anão são boas o suficiente.
A minha empresa desenvolve algoritmos de AI generativa que conversa com as pessoas, mas atenção que aquilo que fazemos é perigoso e pode matar toda a humanidade.
Comam gelados com a testa e depois queixem-se. O perigo dos GPT e afins é o uso irracional de quem procura saber, sem querer estudar ou informar-se sobre um assunto. O perigo é o fim da democracia e a guerra não é um probes algoritmo que se se portar mal é só desligar a ficha da parede lol
Estava só a lançar a ideia de que a IA talvez seja demasiado parecida com o ser humano e caso ganhe consciencia(o que me parece improvável) tornar-se-á tirana mas pode até ser pior, talvez se torne tirana mesmo sem consciencia, secalhar ando a ver demasiados filmes.
Mas isso e normal, ate um coelho se pudesse extinguia a humanidade. Todos os seres querem dominar, por isso somos infectados por fungos e virus. E a natureza das coisas. Uma IA inteligente não precisa da humanidade a não ser para energia como no matrix. Coexistência e algo bonito em livros mas que no mundo real não existe, apenas os dominadores e dominados
Não me custa a acreditar. Por exemplo, o medo a um coronavirus banal, que ficou conhecido por Covid19, foi propagado de tal forma pelos algoritmos, ou inteligência artificial das redes sociais, que levou a uma histeria coletiva e levou à adoção a tratamentos genéticos experimentais, a que chamamos erradamente vacinas, que até ver, tem impacto significativo no sistema reprodutor do ser humano, já se podendo verificar o aumento do número de abortos e diminuição da natalidade nos países com maior adesão.
Já podes tirar o chapéu de alumínio 😀
e tu pareces um papagaio. Ele tem razão ou tu ainda és daqueles que ainda não acordou pra realidade?
Chegou o especialista de virologia…
epa por favor, menos brainwash … zero noção nestes comentários sem dados
tens fonte que confirme isso dos abortos? ou mandaste para o ar so porque o vizinho teve um?
Teorias da conspiração é a nova religião e o João é como um pastor a guiar o seu rebanho para o abismo.
Onde leste isso? Em estudos feitos na Rússia?
Até pode ser que a vacina do COVID-19 afete outros sistemas do corpo humano, mas pelo menos, falando por mim, prefiro estar vivo mas com algumas alterações do que morto por não levar a vacina. Apanhei COVID duas vezes, na primeira não tive sintomas, na segunda tive todos os sintomas menos dor de cabeça e falta de ar, e estava vacinado. Se não tivesse a vacina, o mais certo seria não estar aqui e agora a escrever este comentário.
Quase de certeza.. Eu apanhei covid das duas vezes e fiquei sem ar 3.. Estava muito calor. O João não provou, e o senhor não tem provas do que seria sem a vacina. Mas com tanta p*** informação sobre o assunto ainda acredita no sucesso das vacinas. Sendo Portugal um dos países onde a mortalidzde disparou.. Não é teoria, ate nos canais televisivos passou..
@PN, eu e minha família não apanhamos nenhuma vacina, pasme-se, não tivemos qualquer sintoma… Tivemos de trabalhar todos os dias para pagar subsídios para pessoas ficarem em casa com uma gripe….. Vá ver quantas pessoas morreram de pneumonia e ainda hoje morrem todos os santos dias.
Em fim, prefiro comer gelados com a testa do que colocar seja o que for no meu corpo sem ser testado devidamente.
Stargate SG-1, temporada 4, episódio 16. Nome do episódio “2010”. Veja que é giro.
O verdadeiro problema será quando os processos nos quais a IA assenta se tornarem tão complexos que essa mesma IA ganhe uma espécie de consciência. Nesse momento ela pode encarar-nos como uma ameaça, e daí à hostilidade é um pequeno passo.
Já estou todo a tremer…
Haverá alguma coisa para além da consciência humana que dê sentido a não sobrevivermos às máquinas? Talvez as próprias máquinas. Se elas atingirem essa superinteligência, poderão perceber que sua própria subsistência num universo sem a presença consciente da humanidade seria uma existência vazia e desprovida de propósito. Nesse contexto, a vida inteligente, seja ela humana ou artificial, requer um espectador consciente para validar sua existência e proporcionar significado ao universo. Desta forma parece-me absolutamente desprovido de sentido pensar que algo superinteligente vai destruir a unica coisa que pode validar a sua própria existência.
Há uma coisa muito simples que se pode fazer: desligar da tomada.
Fora brincadeiras, juro que não entendo porque insistem no termo extinção humana. É para ser lido literalmente? Parece-me um exagero. Poderá revolucionar o modo como interagimos uns com os outros e com a tecnologia? Certamente, mas daí a uma extinção…
+1 acabei de comentar isso sem ver este xD
eles querem e regulacao para as empresas que estao a nascer agora ligadas a AI nao chegarem perto e o povo cai na falacia!!!
É engraçado que a conclusão seja a mais lógica e natural que existe: a sobrevivência do mais forte. É assim que a vida se desenvolve no planeta. Mas a permissa de que o mais inteligente sobreviva e extermine as outras inteligências é um conceito humano e não dá Natureza, a criadora da vida,.por assim dizer. E porque digo isso? Porque é o que o ser humano faz há milhares de anos. Cada vez mais se chega a conclusão que certos antepassados do Homo Sapiens que viviam na mesma altura que nós foram eliminados pela nossa ação. Criamos a extinção de muitas espécies animais e vegetais porque assim o desejamos quando não havia essa necessidade. O exemplo mais gritante é a expansão humana para locais como América e Oceania onde seres humanos oriundos da Euroasia quase levaram a extinção de outros seres humanos que já estavam lá como os aborígenes e índios. Faz sentido que se vier uma super inteligente com o mesmo comportamento do Homo Sapien nos faça o mesmo.
Serei o único que ainda não foi a essa tal chat?!
É que nem pesquisei, nem tenho interesse sobre isso, apesar que sei está casa vez mais inserido em tudo.
O que me preocupa para já, é o não cumprimentos dos “ Direitos de Autor “.
O verdadeiro rapto da Propriedade Intelectual.
Isto é muita fição cientifica mas nem sei se dá para discutir… porque não vamos conseguir mudar isto!
Basta consultarmos a nossa historia de conquistas ou de tentativas disso, de divisões politicas de separações e de guerras infindaveis.
Uma IA ou varias que possam a existir terão uma opinião muito mais consensual sobre um tema do que os tiveram humanos, os partidos, ou os paises em quê ? dois mil anos ou mais ?
O que eu penso é que até agora quem colocou a sobrevivência do nosso planeta em grande risco fomos nós, os humanos. A IA, quando de facto for desenvolvida e existir, autoconsciente ou não, deverá pelo menos ter direito ao benefício da dúvida. Até à data os maiores inimigos da humanidade e de todo o planeta somos nós, através das nossas acções nefastas e não uma qualquer IA.
“prognósticos só no fim do jogo”