Proponha uma correção, faça uma sugestão
Pai da computação quântica diz que a temida AGI será uma pessoa e não um software
Sigla para Artificial General Intelligence (em português, Inteligência Artificial Geral), a AGI é o que se tem descrito como o clímax do desenvolvimento da Inteligência Artificial (IA). Para David Deutsch, considerado o pai da computação quântica, esta tecnologia será uma pessoa e não um software.
Com as gigantes tecnológicas, como a Google e a OpenAI, a falarem regularmente sobre o seu progresso no sentido da AGI, muitas pessoas questionam se este clímax já foi ou pode ser, num futuro próximo, alcançado.
Quando questionado sobre como perceberíamos caso a verdadeira AGI fosse alcançada, David Deutsch, considerado o pai da computação quântica, partilhou que nem sequer sabemos o que estamos a procurar.
[O sinal será] se alguém tiver uma teoria. O sinal não estaria na máquina; o sinal seria uma teoria em que alguém escrevesse um livro ou publicasse um artigo a dizer: "Eu resolvi isto. Isto é o que caracteriza uma GI (inteligência geral)".
Se pudéssemos escrever um software que tivesse essa propriedade, seria uma AGI, e esta seria a razão — uma teoria explicativa do que é a inteligência geral.
Explicou David Deutsch, numa entrevista dada à série de podcasts Strange Loop da Sana – coapresentada por Joel Hellermark, diretor-executivo da empresa sueca de IA Sana, e Gustav Söderström, copresidente do Spotify.
Apesar de as pessoas costumarem ver a AGI como uma extensão lógica da IA, Deutsch caracteriza as plataformas de IA atuais como "otimizadores obedientes".
Na sua perspetiva, a verdadeira AGI teria a capacidade de explicar, prever e tirar conclusões que os operadores humanos não anteciparam.
Conforme se ouve num vídeo concedido em exclusivo ao website Digital Trends, o considerado pai da computação quântica explorou os limites do senso comum sobre o ponto em que a IA está e para onde ela caminha.
Com a AGI, as máquinas serão pessoas
Na opinião de Deutsch, os grandes modelos de linguagem (em inglês, LLM) atuais não são o caminho a seguir, uma vez que oferecem correlações, em vez de explicações. Para o especialista, esta é a verdadeira medida da inteligência humana – o raciocínio – e é o elemento que falta nas tentativas atuais de AGI.
Durante a conversa, Deutsch diferencia correspondência de padrões e raciocínio criativo: é da natureza humana esperar que os padrões atuais continuem até ao infinito, mas, como atualmente os LLM são, em última análise, baseados no conhecimento humano agregado, esse viés já está incorporado.
Na perspetiva do especialista, quando a verdadeira AGI for alcançada, as máquinas ter-se-ão tornado pessoas: "Cada AGI é uma pessoa; se a reconhecermos como uma pessoa, o que ela será, a primeira coisa que ela possui é o computador em que está a funcionar".
Ela não vai querer fazer um clone de si mesma, porque terá propriedade — a menos que seja considerada uma escrava, o que seria um erro catastrófico da sociedade.
Conforme disse, deveríamos parar de considerar a AGI como propriedade, sugerindo que as pessoas deveriam contratar a tecnologia, atribuindo-lhe direitos.
Prevendo muitos erros pelo caminho, mas rejeitando a ideia de um apocalipse provocado pela IA, Deutsch acredita que a tecnologia requer supervisão cuidadosa e crítica, bem como correção de erros.
O perigo não é que as máquinas se rebelem repentinamente, mas que possamos repetir um erro: negar direitos a seres capazes de pensar e agir livremente.
Leia também:
Loading ...
Sou o único que lê este artigo e pensa, ” Isto vai dar m**** ” ?
+1
+1
de certeza que tendo autonomia só irá olhar pelo bem dos humanos. nada de ditaduras
De certeza que, tendo autonomia, vai perceber que os humanos são uns parasitas. Depois é juntar 1+1.
Não concordo.
Um ser humano/pessoa, tem a componente emocional, que de acordo com educaçao(programação inicial), irá atribuir a cada emoção um peso que irá influenciar sobre uma decisão mais lógica ou não.
não é tão linear como este senhor descreve.
Mas compreendo o que ele escreveu.
Gostei do termo “programação inicial”. Mas essa educação (programação inicial) é tal como o nome indica, possivelmente programável. Logo a máquina poderá ser ensinada.
Aliás isso já acontece! A única diferença entre a IA actual (qualquer tipo!) e uma hipotética AGI, na óptica de David Deutsch é a capacidade de extrapolar. Ou seja gerar novo conhecimento fora dos limites do actual, embora possivelmente baseado no actual.
Matematicamente falando definimos a IA actual como um aproximador universal de funções. Isto é, dado um conjunto de dados, a IA consegue aproximar a função com precisão desejada, dentro dos limites do dos dados de treino, desde que para isso existam dados suficientes. No limite precisamos de todos os valores possíveis da função (nesse caso a IA é desnecessária). Ou seja a IA actual apenas dá garantias de interpolação porque a sua definição matemática apenas garante universalidade da aproximação num dominio limitado aos dados de trreino.
Esta é a tal teoria que ele fala. Mas esta é aplicada à IA actual. Na óptica de DD, que eu concordo, nós estamos à procura de algo que ainda nem sequer definimos, porque não ha uma definição matemática, assente numa demonstração completa, que diga esta é a propriedade que uma AGI tem de ter. Na óptica de DD e outros investigadores uma AGI terá de ser capaz de extrapolar com precisão. Mas para isso é preciso definir e provar matematicamente que primeiro que é essa a propriedade que procuramos e segundo quais as condições necessárias e ou suficientes para que tal aconteça. Não o sabemos fazer ainda para uma IA.