Proponha uma correção, faça uma sugestão
Falha grave de segurança no DeepSeek deixa dados de milhões em risco
O DeepSeek é o tema do momento em toda a Internet. Esta é mais uma IA que vem dar novas potencialidades aos utilizadores, mas tem particularidades únicas. Como foi criada, esta proposta deixa a concorrência longe e a questionar-se como foi possível ser criada. Agora, e no meio de outros problemas, surge uma falha grave de segurança no DeepSeek que deixa dados de milhões em risco.
Falha grave de segurança no DeepSeek
A IA vinda da China continua a ser o centro das atenções, com o DeepSeek a ser agora o principal concorrente do Gemini, ChatGPT e Copilot. No entanto, o lançamento do DeepSeek está rodeado de controvérsias relacionadas com o uso de informação para treino. É pretendido garantir a segurança dos utilizadores, mas uma falha grave de segurança no DeepSeek acaba de vir a público.
Este problema pode colocar em risco os dados de milhões de utilizadores que decidiram registar-se no DeepSeek e usaram o chatbot com IA nos últimos dias. A informação sobre esta vulnerabilidade provém de uma análise realizada por investigadores da Wiz Research e é uma descoberta que pode colocar em risco toda a credibilidade do lançamento do DeepSeek. A pesquisa descobriu que uma das bases de dados da IA está completamente exposta.
BREAKING: Internal #DeepSeek database publicly exposed 🚨
Wiz Research has discovered "DeepLeak" - a publicly accessible ClickHouse database belonging to DeepSeek, exposing highly sensitive information, including secret keys, plain-text chat messages, backend details, and logs. pic.twitter.com/C7HZTKNO3p
— Wiz (@wiz_io) January 29, 2025
O principal problema que o DeepSeek enfrenta é a falta de confiança dos utilizadores, dos governos e das empresas. Ser um chatbot de IA vindo da China colocou em causa tanto as suas capacidades como o facto de ter sido desenvolvido com um orçamento de apenas 6 milhões de dólares. A descoberta de uma falha de segurança lança ainda mais dúvidas sobre a viabilidade e fiabilidade deste chatbot.
Dados de milhões de utilizadores em risco
O que a Wiz Research descobriu na sua investigação é que a base de dados exposta contém informações privilegiadas, como mais de um milhão de registos. Estão incluídos dados de utilizadores, registos do sistema, chaves de API e até mesmo envios de pedidos. Além disso, a situação é ainda pior porque encontrar esta base de dados não é fácil.
Esta situação coloca o DeepSeek em problemas. A base de dados exposta representa um perigo para os utilizadores e, segundo o discutido na investigação, não foi possível encontrar completamente a porta de acesso a essa base de dados. As possibilidades geradas por este problema são alargadas, sendo os utilizadores as potenciais vítimas deste problema de segurança.
Os investigadores que descobriram o problema de segurança não explicaram como o encontraram. Querem evitar que outros sigam os seus passos e usem a vulnerabilidade de forma ilícita. Ainda é muito cedo para saber como o DeepSeek irá agir. Estas vulnerabilidades são comuns, mas quando se trata de IA, a situação agrava-se, especialmente porque o DeepSeek não tomou as medidas para proteger os utilizadores.
Loading ...
Eu estou registado lá como no ChatGPT. As perguntas que faço em ambos de pessoal não têm nada. Se eu sempre resisti a ter redes sociais por questões de privacidade não iria agora colocar informações pessoais minhas numa IA.
Com as empresas americanas (Meta, Google, Apple, Microsoft, Oracle, etc) as pessoas expõem tudo e mais alguma coisa. E não fazem disso notícia e muito menos fazem ideia por onde andam os seus dados. Quando se trata da China aqui d’el rei. Ao menos sejam coerentes. Será que ainda não perceberam que a China não é o Japão e que vai comer de cebolada os EUA?
O problema aqui é que as Big Tech com a IA e a inúmera informação que as pessoas expõem diariamente serão os próximos ditadores do futuro.
Serão?
Meu caro, uma coisa é ver os dados usados comercialmente, o que já é um abuso. Outra bem diferente, é ver um estado, pois o pcc é dono do estado chinês usar esses mesmos dados para vantagens políticas e até militares! Eles usam tudo, dentro da sua “ideologia grão de arroz” onde todas informações são úteis contribuem sempre para obter vantagens ou confirmações. Um exemplo disso foi o uso de uma ONG espanhola para tentar derrubar o govermo espanhol, com campanhas em locais como Facebook, tictoc, X e instagran! Ou ainda, a ainda a junção de informações de quem tira fotos perto de centros de interesse para o pcc.
O meu deepseek é local e não fala com ninguém só comigo e os meus documentos 😀 . O que eu gostei mais foi que antes de criar a resposta, ele exibe os seus “pensamentos” o que ajuda muito no finetuning. Estou a gostar e provavelmente vai substituir o meu llama 3 nos afazeres.
O mundo inteiro sempre adorou uma boa loja do “chines”. Grandes, baratas… mas cheias de quinquilharias de fraca qualidade… nos gozamos com eles riem-se… e no final enchem o bolso.
Há uns dias o escroto Donald falou sobre o DeepSeek dizendo que a concorrência era boa, hehehe. Pronunciou o nome da China com um respeitoso “Tchaina”, em vez do habitualmente cuspido “TCHAAAAAINA!!!”. Desta vez ele não gozou nem se riu. E tu ainda te ris dos chineses?
Sim, mas claro. Só criaram poder com uma população imensa à custa dos anjinhos que acharam que os obscurantistas seriam seduzidos a bem. Como se enganaram. Eu jamais confiei nessa gente. Note: nada tenho contra os chineses, mas tudo tenho contra o regime hediondo que os governa como se fosse o destino final e sagrado da Humanidade.
Eu riu da santa ignorancia
“Os investigadores que descobriram o problema de segurança não explicaram como o encontraram. Querem evitar que outros sigam os seus passos e usem a vulnerabilidade de forma ilícita”.
Sinceramente não venham com esse tipo de disculpa quando vem da China é o mau da fita é o abcd.MAS! quando é USA oh gloria estamos bem protegidos . Isso tudo mentira e concorrência para o AI. Ainda mais como é um Open source e não vai custar muito nos compradores advinham que é o mal. Ainda bem que a Rússia não lançou imagina as notícias.
Da China save que recebe um cópia rasca! Dos EUA o resultado de investigação é investimento, é natural que ainda padeça de defeitos, defeitos esses, largamente copiados pelos chineses que nada investiram além de um serviço espionageme traidores!
…”sabe”…
Defensores da China e da Rússia sistema autocráticos e absolutistas….não sei porque nao vão para lá….não quer dizer que dos USA seja melhor mas se tivesse de sair do país era para lá que eu ia…..a Europa na ausência de soluções encosta se a um dos lados….mais vale encostar aos estados unidos ainda assim…..
Não sei porque o pessoal de esquerda que é tão a favor do respeito pela pluralidade e diversidade e depois são tão fundamentalistas qdo se trata de respeitar resultados democráticos…..esta ideia de ver a política como cubes de futebol está errada, de clube nunca se muda mas o sentido de voto…. só um burro é que não muda
Depois de alertada a DeepSeek sobre a vulnerabilidade no acesso à base de dados a DeepSeek corrigiu-a.
Mas há outras questões. Com a proliferação de IA, foram sendo criadas empresas que são contratadas para verificar até que ponto são seguras. A HiddenLayer é uma delas e acaba de publicar a sua avaliação dos riscos do DeepSeek. Tendo em atenção que o seu negócio é encontrar riscos e vender soluções para os detetar (ou seja, quanto mais encontrassem melhor) é muito interessante. Concluíram que: “A nossa pesquisa preliminar sobre o DeepSeek-R1 descobriu várias questões de segurança, desde censura de ponto de vista e restrições de alinhamento” [com o PCC, como Tiananmen, coisa que já se sabia] “até suscetibilidade a simples jailbreaks e geração de desinformação” [aqui já é mais complicado porque foi verificada suscetibilidade em casos que outros modelos já resolveram]. “Atualmente, não recomendamos o uso desse modelo de linguagem em qualquer ambiente de produção, mesmo quando hospedado localmente, até que os profissionais de segurança tenham tido a chance de sondá-lo mais extensivamente. Nós encorajamos fortemente o estudo e a replicação deste modelo para fins de pesquisa em ambientes controlados.”
Discute também as vantagens e desvantagens dos modelos open-weight (em que os pesos/parâmetros são disponibilizados publicamente, o que não é exatamente o mesmo que open-source) vs. closet-weight. Parece-me que com tanto modelo open-weight (e open-source), como os que vão ser criados com base no DeepSeek, isso de a mítica “comunidade open-source” examinar a segurança de todos é uma miragem.
https://hiddenlayer.com/innovation-hub/deepsht-exposing-the-security-risks-of-deepseek-r1/
Faz perguntas ao ChatGPT que contrariem a igualdade de género, os movimento LGBT, o feminismo, o movimento BLM e vais ver que recebes uma resposta do tipo “A sua questão viola os Termos……”!
Tens que dar exemplo das perguntas para fazer ao ChatGPT. Quanto ao DeepSeek, não foge à resposta – dá-a perfeitamente alinhada com o PCC. Em questões de política ou dos temas que referes só lhe deram os textos oficiais do PCC para ler. Os que já alguns notaram e não têm grande explicação é que a resposta pode variar, com significado, conforme a língua da pergunta/resposta.
E q6em diz que isso é perfeito! Pelo menos os podemos, ainda, denunciar e protestar! Não se esqueça de uma coisa, deve ser muito jovem, mas estes “esquemas” de censura vieram precisamente de países como a China e Irão, adoptados depois pela Rússia, e de seguida no Ocidente para impor medidas impopulares e que afrontam a maioria das pessoas ao ponto de uma crítica hoje ser criminalizada! A perda de Direitos sociais é políticos tem sido para os cidadãos um facto! Ao ponto de até ser mal-visto elogiar a História nacional, como se tal fosse um crime.
primeiro milho para os pardais, esperar pela próxima versão já corrigida
Já o são. Informação é poder.
Não é a a toa que eles estavam na cerimónia do Trump.
Que novidade!
Ups… afinal o barato sai caro… tão boas as chinesices!
Se das grandes tech dos estados unidos é dúbio e é um sistema capitalista democrático, acham que é de confiar num sistema que tem um regime autocrático?
Engraçado é que os chineses são uma autocracia mas é lá para dentro porque para fora são capitalistas e de que maneira…..basta ver os negócios que eles abrem por aí