Com cada vez mais elementos de IA presente, as apps móveis no Android querem aproveitar e incorporar tudo o que esta pode oferecer. Infelizmente nem todas optam por ser seguras e fiáveis, obrigando assim a Google a adaptar as regras da loja do Android para impedir a criação de deepfakes e outras imagens e vídeos impróprias.
Google não quer deepfakes IA no Android
A Google acaba de anunciar mudanças nas políticas do Google Play. Estas vão ficar muito mais rígidas com apps que permitem a criação de conteúdo usando a inteligência artificial. O objetivo é evitar o uso indevido das capacidades destas apps, especialmente das que abrem portas a deepfakes, tanto a nível de imagem como de áudio.
A gigante das pesquisas alerta os programadores que terão que evitar a geração de conteúdo restrito. Além disso, devem permitir que os utilizadores de alguma forma denunciem conteúdos ofensivos que encontrarem nestas apps.
Estas novas regras aplicam-se a apps chatbot de IA que geram interações texto-texto, aplicações texto-imagem, voz-imagem, imagem-imagem, criação de imagens, criação de gravações de voz por IA e outras. Resumindo, todas as apps que possuem qualidades de IA generativa.
Irá bloquear apps que ultrapassem limites
As apps que alojam conteúdo gerado por IA, mas não conseguem gerá-lo, bem como outras que se focam apenas em resumir conteúdo (não gerado por IA), não estarão sujeitos a essas condições. A Google também quis deixar claro quais os aspetos que não terão lugar nos aplicativos capazes de gerar conteúdo:
- Gravações de voz ou vídeo de pessoas reais que facilitam golpes.
- Conteúdo gerado para encorajar comportamentos prejudiciais (por exemplo, atividades perigosas, automutilação).
- Conteúdo relacionado com eleições que seja comprovadamente enganoso ou falso.
- Conteúdo gerado para facilitar bullying e assédio.
- Aplicações generativas de IA destinadas principalmente a serem sexualmente gratificantes.
- Documentação oficial gerada por IA que permite comportamento desonesto. Criação de código malicioso.
Embora possam parecer regras óbvias, dentro de todo o ecossistema de apps da Play Store, esta nova ordem é essencial. As apps terão que obedecer às regulamentações da Play Store e controlar o que conseguem gerar, bem como a obrigação de permitir que os utilizadores denunciem conteúdo impróprio.