Proponha uma correção, faça uma sugestão
Anthropic desliga acesso ao Fable 5 e Mythos 5! Saiba o que se passou
O governo dos Estados Unidos ordenou à Anthropic que suspendesse o acesso aos seus modelos de IA mais avançados, Claude Fable 5 e Claude Mythos 5, para cidadãos estrangeiros, alegando preocupações de segurança nacional. A Anthropic acabou por bloquear para todos.
Anthropic: autoridades norte-americanas acreditam que existe uma forma de "jailbreak"
Como a empresa não consegue aplicar a restrição de forma seletiva em tempo real, acabou por desativar temporariamente o acesso aos dois modelos para todos os utilizadores.
A decisão surge poucos dias após o lançamento do Fable 5, o primeiro modelo da classe Mythos disponibilizado ao público. O Mythos 5, por sua vez, estava reservado a um grupo restrito de parceiros de cibersegurança através do programa Project Glasswing.
Segundo a Anthropic, as autoridades norte-americanas acreditam que existe uma forma de contornar ("jailbreak") algumas das proteções implementadas no Fable 5, permitindo que o modelo seja utilizado para identificar vulnerabilidades de software e potencialmente apoiar ciberataques avançados. A empresa discorda desta avaliação e afirma que as vulnerabilidades apontadas são limitadas e semelhantes às existentes noutros modelos de IA do mercado.
A medida representa uma mudança importante na política de exportação tecnológica dos EUA. Até agora, as restrições incidiam sobretudo sobre chips e hardware avançado. Desta vez, o alvo são diretamente os modelos de inteligência artificial, considerados ativos estratégicos para a segurança nacional.
Além dos utilizadores fora dos EUA, as restrições poderão também afetar cidadãos estrangeiros que residam em território norte-americano, incluindo funcionários da própria Anthropic.
Loading ...
Agora que estava a apanhar o gosto, foi até fácil contornar as safeguards. 🙁
Ghuilhermito é o maior! Já tinha feito o jailbreak do Mythos – que nunca esteve acessível ao público em geral, mas apenas a organizações selecionadas de cibersegurança, algumas instituição da banca e agências governamentais e de defesa dos EUA …
Já tinhas feito? Larga o GPT moço andas todo comido.
Eu estou a falar das safeguards do Fable que estava sempre a saltar para o opus e isso não é nada de mais existe nn de prompts públicas para passar isso, mas espera lá o GPT não te disso isso?
Resumindo, o Guilhermito ultrapassou as safeguard do Fable 5.
AI Overview:
P: “Que advertências foram feitas pelos supervisores bancários relativamente ao Mythos?
R: Os supervisores bancários, como o Banco Central Europeu (BCE) e o Banco de Portugal, alertaram que o Mythos (modelo de Inteligência Artificial da Anthropic) representa uma ameaça sistémica. A sua capacidade sem precedentes para identificar e explorar falhas de segurança críticas em sistemas de informação coloca o setor financeiro em risco de ciberataques severos.
As principais advertências e preocupações incluem:
– Vulnerabilidade a ciberataques: O sistema consegue identificar falhas que podem ser exploradas por atacantes para paralisar infraestruturas críticas, roubar dados ou alterar mercados.
– Uso malicioso: Existe o receio de que criminosos ou grupos patrocinados por estados possam utilizar o Mythos como uma “arma digital” contra bancos sistemicamente importantes.
– Sistemas obsoletos: O supervisor alertou que os atuais sistemas informáticos e medidas de segurança dos bancos podem não ser suficientes para combater a velocidade e o engenho de uma máquina.
Como resposta a estes avisos, entidades como a Caixa Geral de Depósitos e o BCP foram chamadas à atenção para o risco e estão a testar ou a colaborar com fornecedores norte-americanos que têm acesso restrito ao modelo para antecipar e reforçar as defesas tecnológicas.”
Pois … Há quem, como a UE relativamente à aplicação das regras da concorrência, trate as AI (desaignadamente, no Android, no iOS/iPad OS e no WhatsApp) como mais uma app ou serviço Ainda não perceberam que os riscos de segurança são muito maiores. Acham que as AI se resumem a modelos de linguagem e chatbots.
Mais lixo, larga o GPT rapaz…
O fable tem safeguards para evitar tudo isso, por isso o tema nem se coloca, o que não faltou foi gente a queixar-se dos safeguards do fable que até para sugerir hardening dentro de uma codebase não executava o pedido.
Além disso é uma questão de tempo até os chineses terem algo ao mesmo nível, provavelmente 12 meses, achas que depois vão ter safeguards para alguém?
Quanto mais atrasarem pior é. Por isso é que toda a gente que tinha acesso ao mythos andava a fazer jornadas sem dormir para acelerar trabalho, desta forma apenas as empresas americanas vão estão seguras a tempo
O problema é que isto não é hardware, é um serviço, não existe forma da Anthropic impedir que não cidadãos USA não tenham acesso ao modelo, por isso é que a Anthropic foi obrigada a retirar o modelo, também é grave porque a Anthropic tem muitos engenheiros e investigadores que precisam destes modelos para continuar o trabalho de evolução e que não são cidadãos USA, até o Karpathy apenas tem green card, teria de ficar impedido de usar estes modelos.
Parece-me jogada politica de castigar a Anthropic que tem feito frente a este governo em especial nas duas últimas semanas.
Também anda aí um rumor que diz que foi a Amazon que fez a denúncia às autoridades americanas, o que se for verdade pode significar que usaram o mythos para arranjar forma de fazer jailbreak ao Fable e querem impedir o progresso da Anthropic uma vez que este modelo demonstrou claramente que estão 12 meses há frente de toda a concorrência, vale a pena lembrar que a Anthropic está a usar o mythos desde janeiro, apenas decidiu não o lançar devido às suas capacidades, não conseguimos sequer imaginar que tipo de trabalho eles conseguiram fazer nos últimos meses, enquanto anda tudo a esforçar-se para ter pequenos avanços em comparação
Efetivamente desligaram-me …..acho que vou cortar a subscrição
Nada que os peritos não tivessem antecipado há algum tempo: http://www.ai-2027.com (este site é uma versão interativa de um «paper» publicado por especialista reconhecidos da área).
O mundo anda preocupado com a guerra … nem imaginam o que o futuro lhes reserva …
Medo….
Lol.. a ignorância é bela..
Sabes que o AI 2027 são tudo peças de ficção para relacionar com a especulação da população?
E sabes que recorrem a AI para criar os artigos?
Lol
O pobre não pode ter acesso a coisas boas!
Se realmente é assim “brabo”, cada vez mais dou razão à Apple e à Google por não quererem que haja outras IA com acesso indiscriminado ao sistema deles, para além da Siri e da Gemini, que a UE quer implementar a toda a força.