Google não quer deepfakes no Android e irá bloquear apps que ultrapassem novos limites

Com cada vez mais elementos de IA presente, as apps móveis no Android querem aproveitar e incorporar tudo o que esta pode oferecer. Infelizmente nem todas optam por ser seguras e fiáveis, obrigando assim a Google a adaptar as regras da loja do Android para impedir a criação de deepfakes e outras imagens e vídeos impróprias.

Google não quer deepfakes IA no Android

A Google acaba de anunciar mudanças nas políticas do Google Play. Estas vão ficar muito mais rígidas com apps que permitem a criação de conteúdo usando a inteligência artificial. O objetivo é evitar o uso indevido das capacidades destas apps, especialmente das que abrem portas a deepfakes, tanto a nível de imagem como de áudio.

A gigante das pesquisas alerta os programadores que terão que evitar a geração de conteúdo restrito. Além disso, devem permitir que os utilizadores de alguma forma denunciem conteúdos ofensivos que encontrarem nestas apps.

Estas novas regras aplicam-se a apps chatbot de IA que geram interações texto-texto, aplicações texto-imagem, voz-imagem, imagem-imagem, criação de imagens, criação de gravações de voz por IA e outras. Resumindo, todas as apps que possuem qualidades de IA generativa.

Irá bloquear apps que ultrapassem limites

As apps que alojam conteúdo gerado por IA, mas não conseguem gerá-lo, bem como outras que se focam apenas em resumir conteúdo (não gerado por IA), não estarão sujeitos a essas condições. A Google também quis deixar claro quais os aspetos que não terão lugar nos aplicativos capazes de gerar conteúdo:

• Gravações de voz ou vídeo de pessoas reais que facilitam golpes.
• Conteúdo gerado para encorajar comportamentos prejudiciais (por exemplo, atividades perigosas, automutilação).
• Conteúdo relacionado com eleições que seja comprovadamente enganoso ou falso.
• Conteúdo gerado para facilitar bullying e assédio.
• Aplicações generativas de IA destinadas principalmente a serem sexualmente gratificantes.
• Documentação oficial gerada por IA que permite comportamento desonesto. Criação de código malicioso.

Embora possam parecer regras óbvias, dentro de todo o ecossistema de apps da Play Store, esta nova ordem é essencial. As apps terão que obedecer às regulamentações da Play Store e controlar o que conseguem gerar, bem como a obrigação de permitir que os utilizadores denunciem conteúdo impróprio.