México quer punir quem usar IA para gerar conteúdos pornográficos com mulheres

Com o crescimento da Inteligência Artificial (IA) e a acessibilidade das ferramentas, a criação de deepfakes vê-se facilitada. Nesse sentido, o México quer punir quem utilizar a tecnologia para gerar conteúdo pornográfico com mulheres.

Um projeto de lei da Cidade do México procura punir com até 12 anos de prisão qualquer pessoa que gerar deepfakes pornográficos de mulheres com a ajuda de IA.

A deputada María Guadalupe Morales Rubio apresentou uma proposta de reforma do Código Penal da Cidade do México. A legisladora pede que os deepfakes pornográficos sejam incluídos nos crimes contra a intimidade sexual.

Na perspetiva da vice-coordenadora do grupo parlamentar Morena, deepfakes sexuais podem causar danos irreparáveis ​​à reputação das pessoas, resultando em consequências emocionais, psicológicas e sociais devastadoras para as vítimas.

A utilização de IA na manipulação de conteúdos sexuais, muitas vezes conhecidos como deepfakes, envolve a criação de imagens ou vídeos falsos, onde os rostos de pessoas reais são sobrepostos de forma realista aos corpos de outras pessoas.

Essas imagens manipuladas podem ser usadas para produzir conteúdo pornográfico falso, difamatório ou enganoso sem o consentimento das pessoas envolvidas.

Lê-se na proposta, que visa reformar o artigo 181 Quintus do Código Penal da Cidade do México, relativo a quem comete crimes contra a intimidade sexual.

São necessárias medidas legais e regulatórias mais rigorosas para lidar com o uso indevido de IA na criação de conteúdo íntimo falso. Além disso, é crucial aumentar a consciência pública sobre a existência de deepfakes e educar as pessoas sobre como identificar e mitigar o seu impacto.

Defendeu María Guadalupe Morales Rubio.

A proposta será objeto de debate, no Congresso da Cidade do México, antes da sua aprovação. Posteriormente, será enviada ao chefe de Governo para promulgação e publicação no Diário Oficial da Cidade do México.