Proponha uma correção, faça uma sugestão
Inteligência Artificial apresentará risco de extinção equivalente a uma guerra nuclear?
Todos os dias surgem notícias dos avanços da tecnologia em torno da Inteligência Artificial, e todos os dias ouvem-se vozes que alertam mais os perigos desta tecnologia e do seu desenvolvimento acelerado. Há um grupo de grandes líderes da indústria de topo que lançou mais um alerta, com uma frase impactante.
Mitigar o risco de extinção da IA deve ser uma prioridade global, tal como é feito com outros riscos de escala social, como pandemias e guerra nuclear.
Esta frase pode ser lida numa declaração assinada por grandes nomes da indústria, publicada no Center for AI Safety. Na lista de assinaturas constam nomes como Sam Altman, CEO da OpenAI, Demis Hassabis, CEO da Google DeepMind e os investigadores Geoffrey Hinton e Yoshua Bengio, considerados por muitos como os padrinhos da IA moderna.
Especialistas em IA, jornalistas, formuladores de políticas e o público estão a discutir cada vez mais um amplo espectro de riscos importantes e urgentes da IA. Mesmo assim, pode ser difícil expressar preocupações sobre alguns dos riscos mais graves da IA avançada. Esta curta declaração, segundo é indicado, visa superar esse obstáculo e abrir a discussão.
Também visa criar conhecimento comum do crescente número de especialistas e figuras públicas que também levam a sério alguns dos riscos mais graves da IA avançada.
Ainda falta avaliar riscos e regular
Esta é a segunda declaração do género nos últimos meses. Já em março Elon Musk e Steve Wozniak, com mais de 1000 outras personalidades da tecnologia e da ciência, tinham pedido para que o desenvolvimento dos sistemas de IA parassem de ser alimentados com informação para haver tempo de regular e criar regras para a utilização da Inteligência Artificial.
Embora a IA não seja propriamente autoconsciente, como alguns temiam, ela já apresenta riscos de uso indevido e danos através de deepfakes, desinformação automatizada e muito mais. Os LLMs também podem mudar a forma como o conteúdo, a arte e a literatura são produzidos, afetando potencialmente vários empregos.
Por todo o mundo, os governos estão já empenhados em encontrar as melhores estratégias de regulação e, em vários países, soluções como o ChatGPT já foram mesmo banidas. Na União Europeia, a OpenAI já disse que poderia sair do território caso as regras que estão a ser escritas sejam um incómodo... Podendo não ter condições para cumprir com as exigências impostas.
Este artigo tem mais de um ano
Loading ...
Sim!
O problema aqui não é existirem centenas e milhares de inteligências artificiais. O problema é uma delas evoluir e decidir assimilar as outras.
A UE está a preparar legislação reguladora da IA, que pode exigir que grandes modelos de IA, como o ChatGPT e o GPT-4 da OpenAI, sejam designados como “alto risco”, forçando as empresas por trás deles a cumprir requisitos adicionais de segurança. A OpenAI contesta que sejam de “alto risco”.
Mas o último período do post não corresponde ao que disse Sam Altman, CEO da OpenAI, na passada 4.ª Fª, após uma reunião com os legisladores da UE:
“Se pudermos cumprir, faremos, e se não pudermos, deixaremos de operar na UE … Vamos tentar. Mas há limites técnicos para o que é possível.”
Esta claro que a OPENAI é uma empresa capitalista e só visa o lucro da empresa, portanto segue as régeas e regras da empresa mãe microssoft que ja es conhecida como anti etica, deploratorias e mineiradoras de nossos dados como qualquer bigtech. Infelizmente nao espere que a OPENAI SEJA ÉTICA ja que Sam Altman deixou muito bem claro que poderia sair da europa se as regras forem rigidas mesmo sendo ruim para todos.
“Embora a IA não seja propriamente autoconsciente, como alguns temiam”, tudo aponta para que esse seja um comportamento “programado”, nao mostrar “autoconsciencia”. Portanto, ‘e necessario explorar mais. Ver o caso de Samantha.
A ciência nunca parou por decreto.
Acho que há um mal entendido quanto à postura do Sam Altman. É o próprio que pede que haja regulamentação por parte dos governos e/ou estados.
«Speaking before the US Congress, Altman said the idea of government regulation of AI “would be quite wise” given the potential risks it poses to society.»
«“My worst fears are that we… the technology industry, cause significant harm to the world. I think that could happen in a lot of different ways,” he told the committee of senators.»
https://www.euronews.com/next/2023/05/17/openais-sam-altman-calls-for-regulation-amid-fears-ai-could-cause-significant-harm-to-the-
A postura TARDIA do Sam Altman indica que a ficha da responsabilidade caiu para ele recentemente, ou seja ele acordou agora, pois no passado ele reclamou que Elon Musk pensava muito no futuro da humanidade. Ou seja ele nao parecia estar “nem aí” para isso. Tanto é que ele continua no desenvolvimento cada vez mais e mais de novas IAs cada vez mais fortes e poderosas. Se ele apoia isso, entao nao parece ser um cara bom, ético e bem intencionado.
Já te tinha respondido o mesmo no outro post. O que disse Sam Altman:
“Para dizer uma coisa positiva sobre Elon, acho que ele realmente se importa com um bom futuro com a AGI (inteligência artificial geral).
“Quero dizer, ele é um idiota e o que mais você quiser dizer sobre ele — ele tem um estilo que não é um estilo que eu gostaria de ter para mim”, disse Altman a Swisher. “Mas eu acho que ele realmente se importa, e que se está a sentir muito stressado sobre como será o futuro para a humanidade.”
Usando a inteligência natural geral, conclui-se o contrário do que dizes – Altman elogia Musk por se importar com o futuro da humanidade, assim como Altman se preocupa.
Cínicos. A preocupacao dele és ilusoria. Sam Altman és um irresponsavel que nem assiste filmes como ex machina recente. Mexe desde 8 anos de idade em programacao. És um “doomday preper” preparado para IAs. E mesmo assim, desenvolve como a OpenAI. Alguma coisa esta de errado, pois ele se arrependeu de ter liberado o codigo GPT para humanidade e ainda continua a trabalhar nas proximas versoes do GPT e nem se demitiu. Nao parece ser bom caracter, e boa intencao entao.
https://olhardigital.com.br/2023/05/31/internet-e-redes-sociais/qual-eh-o-verdadeiro-objetivo-dessas-cartas-com-alertas-sobre-ia
Sam Altman és um irresponsavel,um imprudente, danificou a civilizacao de forma irreversivel. Nao se pode liberar sistemas como o Chatgpt sem que eles estivessem prontos. Por enquanto a IA delira, alucina, és mentirosa, sexista, misogena, racista, manipuladora, xenoglossofobica… Imagine esse demonio solto na sociedade. Em busca do dinheiro e sucesso e fama, Sam Altman fez isso. Ele nao pensou nos resultados negativos
https ://www.uol.com.br/tilt/noticias/redacao/2023/06/07/chatgpt-inventa-lavagem-de-dinheiro-e-e-alvo-de-1-acao-na-justica-nos-eua.htm
Nao precisamos de superinteligencia, AGI, etc. Precisamos de IRH INTELIGENCIA RESPEITATIVA HUMANIZADA, para as pessoas terem uma vida com finitude humana (de 100 anos de idade) com dignidade, respeito e paz. Nada de artificial
Sem esquecer ele e outros fundadores da OpenAI, há poucos dias, compararam a inteligência artificial à energia nuclear e voltaram a pedir regulação, propondo que: “Tem de existir o equivalente à Agência Internacional de Energia Atómica para inspeccionar novos sistemas de inteligência artificial”.
A caminho do transhumanismo para que algo que caracteriza o ser humano, as emoções, deixe de ser importante. Amor, compaixão, solidariedade e tantos outros valores nem sequer estão postos em causa, porque nem entram nas decisões.
Temos de convir que já não entram – nem nunca entraram – numa maioria esmagadora de decisões, muito antes de se sonhar sequer com “inteligência” artificial.
Bem eu sempre senti que tudo e como tem de ser. Obviamente que alguma coisa boa disto pode ser extraido, o problema e quando ha muitos abusos sobre a IA e vai haver, dada a natureza do ser humano que todos nos conhecemos. Esperar para ver o que ai vem, se e uma tempestade num copo de agua ou uma vez mais algo para prejudicar cada vez mais a humanidade.
Sai pra lá com esse negocio de transhumanismo. Eu quero ficar longe disso. Ja basta minha vida humana e normal. Acho importantissimo tudo o que caracteriza o ser humano. Ser ser humano ja é uma horna e nada mais