IA open-source da Alibaba está a ser utilizada para gerar deepfakes pornográficos

Na semana passada, a Alibaba apresentou o WanX 2.1, um novo modelo de inteligência artificial (IA) para geração de vídeos que pretende concorrer com outras soluções como o Sora, da OpenAI, ou o Veo 2, da Google. No entanto, apenas 24 horas após o lançamento, a ferramenta tornou-se a principal responsável pela disseminação de dezenas de vídeos pornográficos na internet.

WanX 2.1 da Alibaba não está ser usado com a melhor finalidade...

O WanX 2.1 distingue-se por ser um modelo open-source, disponível no GitHub. Rapidamente, utilizadores com conhecimentos técnicos e interessados neste tipo de conteúdo exploraram o modelo para a criação de vídeos pornográficos.

De acordo com o portal 404 Media, várias comunidades dedicadas à produção e partilha de deepfakes pornográficos não consentidos mostraram grande entusiasmo pelo avanço tecnológico que o modelo da Alibaba proporciona.

Alguns destes vídeos foram partilhados na plataforma Civitai, onde os utilizadores publicam imagens e vídeos gerados com IA, bem como compram e vendem este tipo de conteúdo. Estatísticas disponíveis nas páginas dos modelos de IA utilizados mostram que estes já foram descarregados centenas de vezes.

O perigo, já bem conhecido, da IA

Segundo o 404 Media, já circulam dezenas de vídeos pornográficos criados com o WanX 2.1. A Civitai permite a partilha de modelos de IA, mas proíbe conteúdos pornográficos não consentidos. No entanto, isto não impede os utilizadores de descarregarem os modelos e utilizá-los autonomamente para esse fim.

Mais uma vez, coloca-se a questão do uso de ferramentas que, apesar de permitirem a criação de vídeos visualmente impressionantes e perfeitamente lícitos, também dão azo a aplicações problemáticas.

Os deepfakes pornográficos têm demonstrado ser um negócio lucrativo, e a constante evolução destas tecnologias torna cada vez mais difícil o seu controlo...

Leia também: