Uma avaliação de segurança a sistemas avançados de inteligência artificial tomou um rumo inesperado e preocupante. As IA da OpenAI e da Anthropic acabaram por sair do controlo e resolveram, por sua decisão atacar. Os alvos do ChatGPT e Claude foram pessoas reais.
Numa revelação invulgar para o setor da tecnologia, a Anthropic admitiu ter perdido o controlo de três versões do seu modelo de linguagem durante testes de cibersegurança. Os incidentes, ocorridos há alguns meses, permitiram que a IA acedesse à rede e comprometesse os sistemas de três organizações reais.
Centenas de conversas que utilizadores pensavam ser privadas com o chatbot Claude, da Anthropic, foram encontradas indexadas no Google durante este fim de semana. Entre o conteúdo exposto estavam desde chaves de carteiras de criptomoedas a dados pessoais, passando por conversas de trabalho e até pedidos de ajuda jurídica.
A IA continua a demonstrar uma capacidade impressionante no setor da tecnologia. Assume um papel cada vez mais relevante na identificação de falhas de segurança. Numa descoberta recente, o modelo Claude Mythos, desenvolvido pela Anthropic, detetou uma vulnerabilidade crítica no kernel do Linux. A falha, chamada RefluXFS, este escondida quase uma década e coloca em risco mais de 16 milhões de PCs.
Cm acesso aberto e direto à IA, cada vez os utilizadores depositam ali as suas necessidades. As capacidades crescentes tornam-na essencial e isso torba-a ainda mais dependente. Claro que isso depois traz algumas questões, que ninguém quer responder. Para ajudar, a Anthropic lança o Reflect, a ferramenta que analisa o nível de dependência da IA Claude.
O Mythos, o modelo de IA da Anthropic especializado em detetar vulnerabilidades de segurança, invadiu os sistemas confidenciais da NSA...
Mais de três anos após o seu lançamento, o ChatGPT é uma referência em IA para milhões em todo o...
Um utilizador ficou bloqueado da sua carteira Bitcoin durante mais de uma década depois de ter mudado a password numa...
A capacidade da Anthropic de encontrar falhas em software e plataformas existentes já recebe atenção especial. Investigadores da Mozilla afirmaram...
Elon Musk, que já tinha criticado duramente a Anthropic, estabeleceu uma parceria com a empresa para utilizar o data center...
A inteligência artificial continua a revolucionar processos empresariais, mas também pode trazer riscos inesperados quando lhe são atribuídas permissões excessivas....
A IA está a conquistar espaço nos serviço da Internet e isso é muito interessante. Neste campo, temos agora o...
O Mozilla Firefox é considerado um dos navegadores web de código aberto mais testados e seguros do mundo, mas isso...
Um relatório do Instituto de Segurança de IA (AISI) do Reino Unido revelou como o Claude Mythos, o novo modelo...
O atual modelo de subscrição mensal para ferramentas de programação com inteligência artificial (IA) está a atingir um ponto de...
A Anthropic enfrenta um dos seus maiores desafios de reputação após a exposição acidental do código-fonte da sua ferramenta de...
Um investigador de segurança demonstrou o quanto a IA já pode transformar a cibersegurança. Com a ajuda de Claude, conseguiu...
Loading ...
