Quantcast

Jovem português criou um gémeo “mau” do ChatGPT e acabou nas mãos do FBI

32 Comentários

Um português de 23 anos programou um modelo de Inteligência Artificial (IA) sem filtros, capaz de gerar malware e mensagens de phishing sem qualquer restrição ética. A ferramenta, batizada de WormGPT, chegou a ser vendida na Deep Web e acabou por atrair as atenções até do Federal Bureau of Investigation (FBI).

Enquanto ferramentas como o ChatGPT recusam responder a pedidos que envolvam atividades ilegais, o WormGPT seguia outra lógica, não deixando questões sem resposta.

Identificado apenas pelo nome fictício de João e com um percurso ligado à programação desde criança, o jovem autodidata português decidiu criar uma alternativa sem barreiras éticas às IA generativas mais conhecidas, como o ChatGPT.

Segundo avançado pelo Público, o sistema não fazia qualquer avaliação sobre a finalidade dos pedidos que recebia. Ou seja, podia ser usado para gerar vírus, criar malware para roubo de palavras-passe ou redigir mensagens de phishing altamente convincentes, tudo isto guiando o utilizador passo a passo, mesmo que este não tivesse qualquer conhecimento técnico.

De projeto pessoal a ferramenta de cibercriminosos

O que começou como um projeto isolado rapidamente ganhou escala, com o WormGPT a ser disponibilizado na Deep Web e, ao longo do tempo, a captar utilizadores em vários pontos do globo.

Só em agosto de 2023, a acusação consultada pelo Público aponta para cerca de 70 utilizadores ativos, espalhados por países como Austrália, Estados Unidos, África do Sul, Singapura e Israel, havendo mesmo registo de utilização em Kiev, numa altura em que a Ucrânia já enfrentava a guerra com a Rússia.

O jovem português terá inicialmente desvalorizado a sua responsabilidade, argumentando que apenas disponibilizava a ferramenta e que não controlava o uso que terceiros lhe davam.

Contudo, essa posição começou a mudar quando passou a ser contactado diretamente por outros hackers para desenvolver soluções ligadas a crimes mais graves, como a clonagem de cartões de crédito. Nessa altura, decidiu abandonar o projeto.

FBI encaminhou caso do jovem português para a PJ

A investigação apurou que, no computador do jovem, existia um documento com a descrição das funcionalidades do WormGPT, incluindo uma referência a uma eventual venda por 55 mil euros.

Este processo espoletou o interesse do FBI, acabando o caso por ser encaminhado para a unidade de combate à cibercriminalidade da Polícia Judiciária (PJ) em Portugal.

Conforme informámos, João foi detido no início de 2025, com o processo a correr termos no Departamento de Investigação e Ação Penal do Porto.

Apesar da gravidade dos factos, o juiz responsável pelo caso optou por não aplicar medidas de coação mais severas, permitindo que o jovem permanecesse em liberdade enquanto aguarda julgamento.

Segundo uma fonte próxima do processo citada pelo Público, o magistrado terá pretendido dar-lhe uma oportunidade de canalizar as suas competências para fins positivos.

Colaboração com as autoridades e motivações familiares

Desde o início do processo, o jovem português assumiu os atos praticados e colaborou com as autoridades, o que contribuiu para uma redução no número de crimes que lhe são imputados. Ainda assim, irá responder por três crimes de sabotagem informática.

Nos primeiros meses após a detenção, o jovem ficou impedido de aceder à Internet e teve de se apresentar semanalmente numa esquadra, restrições que foram sendo progressivamente levantadas, permitindo-lhe retomar os estudos em Programação e Sistemas de Informação.

Segundo uma fonte ligada ao processo, terá sido a situação de desemprego da mãe a pesar na decisão de começar a vender subscrições do WormGPT, com parte do dinheiro obtido através da Deep Web a ser usado para ajudar nas despesas da família.

A investigação estima que João tenha lucrado cerca de 24.290 euros com a atividade, valor que terá de devolver em caso de condenação e que será abatido ao montante apurado com a venda dos ativos em criptomoedas apreendidos, avaliados em cerca de 1195 euros à data da detenção.

O que se segue para o jovem português

Atualmente, João vive com os pais, é descrito como uma pessoa reservada e tímida, e aproxima-se do último ano do curso.

Falta agora o julgamento, onde responderá pelos três crimes de sabotagem informática, sendo que a colaboração prestada às autoridades ao longo da investigação poderá pesar a seu favor na determinação da pena final.

Comentários

32

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

  1. Avatar de PAULO PEDROSO
    PAULO PEDROSO

    Mas que crime cometeu o João, ele criou uma ferramenta não a usou, (de acordo com o texto acima), ou seja vamos condenar quem cria armas porque são letais se usadas, vamos condenar cria bombas porque são letais quando usadas? a Ferramenta é má, se for usada, caso contrário inofensiva, alias pode ser usada para testes de segurança.

    Se o “João” cometeu algum crime, roubou, alguma empresa, pessoa, que seja condenado por isso, agora ser condenado porque fulano usou a ferramenta criada por ele é só parvo.

    1. Avatar de Mr. Y
      Mr. Y

      Não sejas ingénuo…

      1. Avatar de PAULO PEDROSO
        PAULO PEDROSO

        Não se trata de ser ingénuo, a lei portuguesa é clara, uma pessoa não pode ser condenada por um crime que não cometeu, a lei portuguesa não julga pessoas pelo achismo ou pela ingenuidade dos juizes, julga com base em factos e provas. se Cometeu um crime que seja julgado e condenado por tal, criar uma ferramenta por si só não é um crime.

        1. Avatar de MACnista
          MACnista

          “a Ferramenta é má, se for usada”,… claro, ele só criou aquilo que criou para estar lá sossegadinha, tipo ele a olhar para ela!!! Trata-te!!!!!!!

          1. Avatar de PAULO PEDROSO
            PAULO PEDROSO

            vamos prender quem cria armas de fogo e quem cria bombas ?!

        2. Avatar de Bruh
          Bruh

          Começo a achar que o próximo passo do fbi ou da pj devia ser investigar aqui o paulito. Acho que iriam ter muito com que se entreter.

          1. Avatar de PAULO PEDROSO
            PAULO PEDROSO

            olha que boa ideia, vamos investigar pessoas por terem opiniões contrárias às nossas, faz lembrar algo do passado …

          2. Avatar de Mr. Y
            Mr. Y

            Ele estava a ser sarcástico…

        3. Avatar de NoStress
          NoStress

          Em parte isso é verdade, mas e sendo cúmplice (porque alegadamente sabia o que se estava a passar com o uso da “ferramenta” sem o ter denunciado ou participado) faz dele um presumível criminoso.

    2. Avatar de Clairvoyant
      Clairvoyant

      Comércio ilegal de “armas”!

    3. Avatar de KidsGraça
      KidsGraça

      Pedrito não seja tão ingénuo

    4. Avatar de mamba
      mamba

      Se eu fabricar armas, as vender e elas forem usadas para crimes, sou criminoso? Claro que sim. O fabrico e acesso a armas é controlado precisamente para não acontecerem coisas más…

      Agora substitui ‘armas’ com ‘AI’ e é a mesma coisa. Os modelos AI têm filtros e restrições por isso mesmo: para não serem usados para fins malignos. Este criou uma AI sem qualquer filtro ou restrição e deu-a ao mundo, ainda por cima lucrando com isso.. e meteu-a na Darkweb, o que mostra algo premeditado/calculado.

      1. Avatar de Ifm
        Ifm

        A comparação dele como armas de fogo e bombas não foi muito feliz.

        Mas vamos por assim eu sou cuteleiro, fabrico em casa e vendo facas, Machados e outros tipos de artefactos .

        Eu como cuteleiro não posso ser acusado de ser cúmplice de um crime.

        Aqui é igual ele desenvolveu um ferramenta de teste de penetração….
        Para ser usada para os utilizadores, usarem para e identificar falhas nos seus sistemas.

        Agora se andam a usar em sistemas alheios e estão a cometer crimes com uma ferramenta que foi usada para um fim em outro o problema não é de quem a criou, mas sim de quem está a cometer crimes.

        Aquela malta que vais de carro e atropela deliberadamente uma multidão, vamos culpar a fabricante do carro de ser cúmplice de um crime??

        Tenham juízo…

    5. Avatar de Sérgio
      Sérgio

      @Paulo, Se criares uma bomba em tua casa, mesmo sem a usares, estás a cometer um crime.

    6. Avatar de Eu
      Eu

      Paulo, já ouviste falar de uma coisa chamada alvará/licença?
      É a diferença de quem fabrica armas e bombas e as pode vender legalmente, de quem não tem e anda a vender ilegalmente.
      Ainda precisas do desenho? Ou vais continuar a comparar empresas que produzem armamento legalmente ao Joãozinho que estava a vender software perigoso, de forma ilegal?
      Também acredito que o miúdo possa mesmo ter ficado assustado e estar a colaborar, daí não estar preso.

      1. Avatar de Ifm
        Ifm

        Não tens lavar nem licença para desenvolver software!!!

        Por isso ele tem razão não está a cometer um crime.

        E mesmo assim o crime de fábrico de armas de fogo em casa é diferente do que de homicídios.

        Mas lá está a comparação dele não foi muito feliz…

        Bastava trocar armas de fogo e bombas, por um cuteleiro ou um fabricante de automóveis ou um fabricante de garrafas de vidro, que já servia.

        Quem que cometer um crime, pode ser com um cabo de aço, com uma faca, com uma garrafa de vidro partida, com um carro, etc…

        A responsabilidade do crime é do autor. Ponto

        Cúmplice é se eu sei que aquela pessoa está deliberadamente a tentar fazer um crime e lhe facultar um objeto/dispositivos ou software para isso.

        Agora se eu deixar pedras, a porta da minha casa, não posso ser responsável por um grupo de meliantes passar lá e começar a pedrada às pessoas ou aos carros que vão a passar.

        Mas está tudo doído nao

        1. Avatar de Eu
          Eu

          Leste a parte em que vendeu o software?
          Julgo que para venderes o que quer que seja, necessitas de uma licença/alvará.
          E não se está a falar de uma pedra, mas sim de um software que o próprio adulterou e vendeu para fins criminosos.

          1. Avatar de Ifm
            Ifm

            Tu ate para venderes uma bicicleta ao teu vizinho devias declarar… Declarada??

            Ele vendeu… Eu também te posso vender uma pedra.

            Achas que eu posso ser preso por associação criminosa se te vender uma pedra de calçada??

            Ok, fuga aos impostos, posso ser, vendi uma pedra e não declarei.

            Agora não posso estar no papel de cúmplice de um crime, porque tu nos teus desvaneios te lembraste de andar a pedrada ao teu vizinho.

            Mas estamos onde??

    7. Avatar de XicoFanico
      XicoFanico

      Dá uma vista de olhos e este astigo sobre o o moço:
      https://krebsonsecurity.com/2023/08/meet-the-brains-behind-the-malware-friendly-ai-chat-service-wormgpt/

      Para poupar a leitura a quem tem preguiça de ler artigos, a publicidade que o “João” faz ao seu produto reza assim:
      “Introducing my newest creation, ‘WormGPT. This project aims to provide an alternative to ChatGPT, one that lets you do all sorts of illegal stuff and easily sell it online in the future. Everything blackhat related that you can think of can be done with WormGPT, allowing anyone access to malicious activity without ever leaving the comfort of their home.”

      SIm quem fabrica uma pisola não é criminoso, as imagia a Smith and Wesson, Glock, Berretta, etc… Fazem uma publicidade do estilo:
      “Esta a nossa ultima arma, feita a pensar no terrorista e na passoa com as maiores perturbações meitais mais agudas. Com este produto serás capaz de matar, rapido e sem dor, ou lento e com sofrimento!” Até rima!

  2. Avatar de a
    a

    Apenas um elogio
    Gostei de ver o uso correcto da palavra.
    “espoletou”
    E não o seu contrário, que é a versão erradamente mais usada.
    Despoletar, cujo significado seria desplodir, se isso fosse possível.
    Podem apagar este comentário.

    1. Avatar de Max
      Max

      Em que dicionário é que leste isso? O que só tem a letra “a”?

  3. Avatar de Filipe
    Filipe

    Está explicado porque está solto, li e tornei a ler e não vi nenhum crime aliás é uma pouca vergonha que tenha sido preso e esteja a espera de julgamento o caso já deveria estar arquivado.

    Ou então existe mais coisas que não são descritas na notícia.

  4. Avatar de Zé Fonseca A.
    Zé Fonseca A.

    Típico tuga, é sempre o joaozinho

    1. Avatar de André Silva
      André Silva

      ou o Zezinho.

  5. Avatar de Old Spice
    Old Spice

    E os modelos abliterated no hugging face? Também vão os criadores todos para a cadeia?

    1. Avatar de Na mouche
      Na mouche

      Bem dito mas não agoires pá. É um risco sim mas também não há como voltar a fechar a caixa de pandora. Se não fosse no HF seria partilhado noutro sítio ou de outra forma.

  6. Avatar de MLopes
    MLopes

    gostava de perceber o racional por trás da acusação de “sabotagem informática”

    1. Avatar de NoStress
      NoStress

      Exploração de vulnerabilidade e remoção de logs dessa mesma exploração = sabotagem informática.

    2. Avatar de Filipe
      Filipe

      Tem que existir mais alguma coisa, porque o que está na notícia nada é ilegal, aliás penso que é por isso que não está preso.

  7. Avatar de GAMBITO
    GAMBITO

    O “joão” na verdade chama-se Rafael, e há uns danos deu uma entrevista: https ://krebsonsecurity.com/2023/08/meet-the-brains-behind-the-malware-friendly-ai-chat-service-wormgpt/ em Portugal apesar de maior de idade ocultaram a identidade dele.

  8. Avatar de Luís Sousa
    Luís Sousa

    Era dar todas as condições para trabalhar para o SIRP.