Na semana passada, a Alibaba apresentou o WanX 2.1, um novo modelo de inteligência artificial (IA) para geração de vídeos que pretende concorrer com outras soluções como o Sora, da OpenAI, ou o Veo 2, da Google. No entanto, apenas 24 horas após o lançamento, a ferramenta tornou-se a principal responsável pela disseminação de dezenas de vídeos pornográficos na internet.
WanX 2.1 da Alibaba não está ser usado com a melhor finalidade…
O WanX 2.1 distingue-se por ser um modelo open-source, disponível no GitHub. Rapidamente, utilizadores com conhecimentos técnicos e interessados neste tipo de conteúdo exploraram o modelo para a criação de vídeos pornográficos.
De acordo com o portal 404 Media, várias comunidades dedicadas à produção e partilha de deepfakes pornográficos não consentidos mostraram grande entusiasmo pelo avanço tecnológico que o modelo da Alibaba proporciona.
Alguns destes vídeos foram partilhados na plataforma Civitai, onde os utilizadores publicam imagens e vídeos gerados com IA, bem como compram e vendem este tipo de conteúdo. Estatísticas disponíveis nas páginas dos modelos de IA utilizados mostram que estes já foram descarregados centenas de vezes.
O perigo, já bem conhecido, da IA
Segundo o 404 Media, já circulam dezenas de vídeos pornográficos criados com o WanX 2.1. A Civitai permite a partilha de modelos de IA, mas proíbe conteúdos pornográficos não consentidos. No entanto, isto não impede os utilizadores de descarregarem os modelos e utilizá-los autonomamente para esse fim.
Mais uma vez, coloca-se a questão do uso de ferramentas que, apesar de permitirem a criação de vídeos visualmente impressionantes e perfeitamente lícitos, também dão azo a aplicações problemáticas.
Os deepfakes pornográficos têm demonstrado ser um negócio lucrativo, e a constante evolução destas tecnologias torna cada vez mais difícil o seu controlo…
Leia também: