EUA: Adolescentes detidos por criarem imagens ‘deepfake’ de nudez de colegas de turma

As ferramentas estão ao estender da mão, acessíveis a qualquer mentalidade. Tanta tecnologia e facilidade de utilização nem sempre são bem aproveitadas. Um exemplo chega-nos dos EUA onde adolescentes "despiram" colegas de turma, com tecnologia deepfake. Os jovens foram presos e sobre eles recai acusações criminais que podem ser as primeiras relacionadas com a partilha de imagens explícitas geradas por IA.

Usar IA "para despir" os colegas, pode dar prisão

Dois estudantes do ensino secundário da Florida foram detidos em dezembro e acusados de crimes de terceiro grau por alegadamente terem criado nus falsos de colegas de turma (masculinos e femininos). Um artigo da Wired cita relatórios policiais que dizem que dois rapazes, de 13 e 14 anos, são acusados de usar uma "aplicação de inteligência artificial" sem nome para gerar imagens explícitas de outros estudantes "entre os 12 e os 13 anos".

O incidente poderá ser o primeiro caso de acusação criminal nos EUA relacionado com imagens de nudez geradas por Inteligência Artificial (IA).

Foram acusados de crimes de terceiro grau ao abrigo de uma lei da Flórida de 2022 que criminaliza a disseminação de imagens sexualmente explícitas deepfake sem o consentimento da vítima. Tanto as detenções como as acusações parecem ser as primeiras do género no país relacionadas com a partilha de nus gerados por IA.

A imprensa local noticiou o incidente depois de os alunos da Pinecrest Cove Academy, em Miami, na Flórida, terem sido suspensos a 6 de dezembro e o caso ter sido comunicado ao Departamento de Polícia de Miami-Dade. De acordo com a Wired, eles foram presos em 22 de dezembro.

Deepfake: a tecnologia poderá estar sem controlo

Os menores que criam nus e imagens explícitas de outras crianças gerados por IA têm-se tornado um problema cada vez mais comum nos distritos escolares nos EUA. Segundo o que é dado a saber, apesar de haver já vários casos deste tipo, o da Florida parece ser o primeiro com prisão efetiva.

Em muitos países, tal como nos EUA, não existe uma lei que trate de nus falsos não consensuais, o que faz com que estas situações possam ser tratadas de forma desproporcional, visto que ainda não se sabe como lidar com a IA e os seus resultados nefastos.

Cada vez há mais casos da utilização da IA generativa em questões de material de abuso sexual de crianças, deepfakes não consensuais ou pornografia de vingança.