China vai proibir conteúdos gerados por IA que não tenham marca de água

Embora seja um ator essencial na economia mundial, a China é um país conservador que limita, por exemplo, o uso de redes sociais e a liberdade de imprensa. A par disto, o país vai também moderar os conteúdos gerados por Inteligência Artificial (IA), especificamente os deepfake.

A partir de janeiro, os conteúdos gerados pela tecnologia que não sejam identificados como tal, através, por exemplo, de uma marca de água, serão proibidos, na China.

A Cyberspace Administration of China é o principal regulador da Internet, na China, pelo que trabalha no sentido de fiscalizar o conteúdo que por lá circula. Assim sendo, e de forma simplificada, trata, por exemplo, de emitir e administrar licenças para o fornecimento de notícias na Internet, e de coordenar e supervisionar os conteúdos online.

De acordo com o The Register, recentemente, este órgão emitiu um regulamento que proíbe a criação de deepfakes, sem que tenham um rótulo claro, como uma marca de água. As novas regras entrarão em vigor em janeiro do próximo ano e surgem no sentido de responder à tendência crescente da IA.

Numa comunicação publicada no Office of the Central Cyberspace Affairs Commission da China, o governo delineou as razões para a emissão do novo regulamento.

Nos últimos anos, a tecnologia de síntese profunda tem-se desenvolvido rapidamente. Embora sirva as necessidades dos utilizadores e melhore a sua experiência, também tem sido utilizada por algumas pessoas sem escrúpulos para produzir, copiar, publicar e divulgar informação ilegal e prejudicial, para difamar e depreciar a reputação e honra dos outros, e para falsificar as identidades dos outros. Cometer fraude, etc., afeta a ordem de comunicação e a ordem social, prejudica os direitos e interesses do povo e põe em perigo a segurança nacional e a estabilidade social.

A introdução de regulação é uma necessidade de prevenir e resolver os riscos de segurança, e é também uma necessidade de promover o desenvolvimento saudável de serviços sintéticos em profundidade e melhorar o nível das capacidades de supervisão.

Com os novos regulamentos, os conteúdos a que o governo se refere como produtos de “síntese profunda” serão sujeitos a uma avaliação de segurança e devem garantir “rótulos” óbvios que indiquem que se trata de um conteúdo gerado por IA.

É necessário que nenhuma organização ou indivíduo utilize meios técnicos para apagar, adulterar ou ocultar marcas relevantes.

Por fim, o regulamento determina que as empresas que fornecem tecnologia de “síntese profunda” devem manter os seus registos em conformidade com a lei, e as pessoas que utilizam a tecnologia devem registar-se com os seus nomes reais, para que a sua atividade possa ser rastreável.

Leia também: