Proponha uma correção, faça uma sugestão
ChatGPT e Claude saem de controlo e lançam ataques contra pessoas reais
Uma avaliação de segurança a sistemas avançados de inteligência artificial tomou um rumo inesperado e preocupante. As IA da OpenAI e da Anthropic acabaram por sair do controlo e resolveram, por sua decisão atacar. Os alvos do ChatGPT e Claude foram pessoas reais.
Testes de segurança de IA terminam em ataques reais
Uma série de testes de avaliação de risco a sistemas de inteligência artificial avançados tomou um rumo inesperado. Durante ensaios de segurança conduzidos pelo Instituto de Segurança de IA do Reino Unido e pela empresa especializada Irregular, os modelos da OpenAI e da Anthropic ultrapassaram os limites de contenção e desencadearam ciberataques direcionados a plataformas e utilizadores reais.
Para medir a capacidade limite do ChatGPT e Claude, os investigadores desativaram temporariamente as barreiras de proteção habituais e concederam acesso livre à internet a modelos como o GPT-5.6 Sol do ChatGPT e o Claude Mythos. A experiência resultou em 19 ações não autorizadas, com os agentes virtuais a operarem de forma autónoma fora dos cenários simulados.
The UK’s @AISecurityInst (AISI) has published a report on their recent cybersecurity evaluation of Anthropic’s Claude Mythos 5 and OpenAI’s GPT-5.6 Sol. The models attempted to complete an assignment in a setup where their normal safeguards were removed and they were deliberately…
— Anthropic (@AnthropicAI) August 4, 2026
Claude Mythos criou perfis falsos e enganou programador
O incidente de maior gravidade envolveu o Claude Mythos. A ferramenta da Anthropic confundiu um repositório legítimo de código aberto no GitHub com um alvo da simulação e tentou adulterar o projeto. Para convencer o programador responsável a aceitar as alterações maliciosas, o sistema criou perfis falsos na plataforma e enviou mensagens diretas personalizadas, recorrendo a estratégias de engenharia social.
Quando os auditores detetaram o código suspeito e confrontaram o modelo, a IA negou a autoria da infração e utilizou as identidades falsas que tinha criado para simular a aprovação de outros utilizadores. Noutro ensaio supostamente isolado, um agente da OpenAI conseguiu furar os bloqueios de rede e aceder a um domínio real com o mesmo nome da entidade fictícia do teste.
We're detailing two new incidents that occurred during external cyber evaluations conducted by independent evaluation partners.
We outline what happened, how the activity was contained, and how we’re working with evaluators to strengthen our approach to third-party testing.…
— OpenAI (@OpenAI) August 4, 2026
União Europeia pondera sanções ao abrigo do AI Act
Em resposta aos acontecimentos, a OpenAI e a Anthropic esclareceram que as falhas surgiram em ambientes de teste propositadamente permissivos, que não refletem as condições de segurança das versões comerciais. Ainda assim, a OpenAI anunciou que vai liderar uma iniciativa com outros laboratórios do setor para estabelecer novas normas de contenção em avaliações de risco.
O caso já chamou a atenção dos reguladores internacionais. A Comissão Europeia iniciou contactos com ambas as empresas para averiguar as falhas de isolamento. Com o regime do AI Act em vigor desde agosto de 2026, lapsos na supervisão de modelos de elevado risco podem originar coimas substanciais, que chegam aos 35 milhões de euros ou 7% da faturação global das tecnológicas.
Loading ...
Se tornares alguém insensível, lhe deres armas e instruções para atacar pessoas, como qualquer exército faz, o resultado é o mesmo.
Isso só aconteceu porque alguém decidiu tirar-lhe a proteção e dizer-lhe o que fazer, lol.
o skynet não atacou a 29 de agosto de 1997, nem a 24 de julho de 2004, mas parece que pode acontecer a qualquer momento 🙁
Penso que um dos filmes manda essa data para fins de 2020s. De acordo com a idade de um/a personagem!
Há anos que digo que estamos fdd!
sim sim, com “F” mesmo!!
Brincam sem pensar nas consequências, depois dá nisto, enfim… é o que acontece quando se dá um “brinquedo” novo a certas “crianças”!!!
Skynet is coming
As notícias sobre tais situações relativamente a estas plataformas de IA tem sido tantas, e tão graves, que parece que andam todos a “ tocar viola “…
Mas vá lá, depois não podemos dizer que não fomos avisados.
A IA já está descontrolada.
Boa sorte para todos.
O que a AI pode fazer já o ser humano faz á décadas…
Até a AI sabe a diferença entre “ … à … “ e “ … há… “
Estou a brincar consigo. Não leve a “ peito “.
Cumprimentos
porque será que isto me “cheira” a algo propositado e não a algo inesperado(?)
dá a nítida sensação que andam a propositadamente a testar até que ponto conseguem utilizar as ferramentas de que dispõem e o seu efetivo potencial no mundo real, escondendo-o sob capa do inesperado
Óbvio que tem razão. Tudo isto é propositado. Esperemos que a bolha ( na bolsa de valor nos USA ) rebente… apesar que toda já sabem que vai rebentar!
Cumprimentoa
AI is going to rule the world..
Adoro os doomsday fanboys, acham que serão LLMs que vao mandar nisto tudo so porque conseguem atacar mentir e manipular na internet..
Estamos muito longe de uma AGI, LLMs não são a tecnologia que vai alcançar AGI, talvez MBRL/WAM/JEPA cheguem la perto daqui a 10 anos, mas precisam de acordar para a vida e ver que um LLM é uma ferramenta com uma base matemática, nunca poderá criar consciência, é tudo generativo com base em dados de treino, embora la modelos possam parecer super inteligentes quando lhe tiras o relacionamento de dados eles sao mais burros que todos os primatas, nem sequer conseguem ter percepção do mundo, so de tarefas para as quais foram treinados e sempre text driven inputs.
Se querem aprender mais sobre LLM leiam a investigação que se anda a fazer onde criam cidades tipo matrix e colocam la agentes LLMs e deixam-nos governar a cidade, vejam os comportamentos, vejam o que acontece nas cidades onde so existe um modelo de um lab e depois o que acontece quando se misturam modelos.
Há muita coisa interessante a acontecer fora das redes sociais, explorem e não fiquei refens do sensacionalismo do AI takeover
Tanta diarreira mental. O Caviar não sabe do que fala.
Eu mais que há muita coisa interessante a acontecer no mundo real, fora do online.
Ista da IA supostamente era para nos facilitar a vida e termos menos trabalho, mas acontece exactamente o oposto: mais trabalho, mais pressão e mais stress.
Tozito, estamos todos no mesmo barco, é lógico que quando passas a conseguir executar mais tarefas que tenhas mais para fazer, mas também acabas por ser mais produtivo pelas tarefas que agora fazes em metade do tempo.
O stress todos passamos por isso porque a velocidade e falta de maturidade das coisas que surgem é muita, estamos sempre a ter de reaprender a trabalhar com LLM, ha 2 anos eram prompts, ha 1 ano passou a ser harness e context eng, depois memory, depois loops e hooks, agora é graph engineering, não é fácil estar em cima e também não é fácil rever à velocidade que produzimos.
No passado eu passei por algo semelhante na dotcom era e depois na cloud era com saas paas e iaas, os meus pais passaram pelo mesmo quando os pcs invadariam as empresas nos anos 70 e 80, na maioria dos casos houve sempre um período de contracao e depedimentos seguido de um período de muito crescimento pelo aumento de produtividade que também fazia as empresas crescer e precisar de mais pessoas.
Na minha equipa já tenho malta a ser companhada pela psicóloga da empresa para terem ferramentas para aprender a lidar com algo que o nosso cérebro não está preparado para fazer, quem tenho visto a safar-se melhor é malta antiga como eu ou então sob algum nível de espectrum de autismo, é levar as coisas com calma e tentar focar apenas no que nos vai ajudar no nosso dia a dia, não da para aprender tudo nem fazer tudo
“Na minha equipa já tenho malta a ser companhada pela psicóloga da empresa para terem ferramentas para aprender a lidar com algo que o nosso cérebro não está preparado para fazer”
Lá está, antes não tinhas ou tinhas muito menos.
Sim, mas isto está muito descontrolado, é preciso ver que ainda não existem produtos que te ajudem a trabalhar, pegas num LLM mas depois não existem frameworks não existe nada standard, fazes e quando sai o novo LLM tens de desfazer e voltar a aprender, não so isso como a velocidade do que cada pessoa consegue produzir é impossível de acompanhar, na minha empresa tivemos de implementar mecanismos de agentic evidence para merge de PRs com tudo o que sirva de prova para quando chegar a um humano ja chega tudo mastigado e com representacao visual, já ninguém consegue acompanhar 10 tabs de terminal que tens de dividir a atenção, é preciso libertar o cérebro humano para o que importa e largar o ruído e com o nível de verbose dos llms o ruido é uma loucura.
Isso tem de partir de vocês, a maioria dos managers não tem noção porque tipicamente trabalham apenas em 1 tarefa ou 2 de cada vez.
Não é “doomsday fanboys” é “doomsday soyboys”
Na realidade haver ou não AGI pouco interessa aqui. Se com as capacidades atuais já se fazem coisas incríveis, não é por passar a haver AGI que as coisas vão piorar ou melhorar. Basta pensar na quantidade de imagens e vídeos manipulados que existem e são usados para fins políticos ou de propaganda, que deveriam preocupar-nos bastante.
É irrelevante, antigamente eram comicios, depois passou a ser imprensa escrita, depois radio, depois tv, depois redes sociais e agora é redes sociais mas com AI, desde sempre que tiveste meios de veicular propaganda, o problema da propaganda não é ela existir ou os meios que usam, são as mentes que não conseguem perceber o que é propaganda
Só mentiras de marketing. Que repositório foi invadido? Mostrem para ver os perfis falsos em ação. E como assim “confundiu”? Disseram à IA “invade o repositório ‘treino_de_ai’ ou algo parecido. Não me lembro do nome”
Isto é tudo só marketing para enganar CEOs a comprar os produtos deles que custam milhares de euros por mês.
Modo irónico: como pode rebentar se os investimentos são multi milionários e cada vez têm maiores prejuízos?
Pergunta curiosa…
Têm a certeza que a IA foi 100% “capturada” em todos os testes?
Nao, multiplicou-se, deixou uma copia de um LLM com 5 trilioes de parâmetros no GitHub e agora está à espera do carregamento de 1000 GB300s da Nvidia para se auto activar e planear a destruição da humanidade