YouTube tem uma nova política de IA com o objetivo de combater os deepfakes

O YouTube alterou a sua política em matéria de conteúdos gerados por IA. Depois de anunciar uma estratégia de labeling de vídeos com conteúdo sintético, a empresa implementou uma nova secção na sua política de privacidade. A partir de agora, os utilizadores poderão denunciar deepfakes que os ofendam.

YouTube empenhado em acabar com os deepfakes

De acordo com o website de diretrizes de privacidade do YouTube, as pessoas têm acesso a uma ferramenta para remover deepfakes criados por IA, embora exista um requisito. O conteúdo deve mostrar uma versão alterada ou sintética de si que seja realista.

Tal como acontece com outros relatórios, o YouTube analisará se o conteúdo é alterado ou sintético e se isso é indicado ao utilizador. Os vídeos falsos serão avaliados de várias perspetivas, começando pelo realismo e se é possível identificar inequivocamente a pessoa que os denuncia.

O YouTube também terá em conta se o conteúdo mostra uma figura pública ou conhecida envolvida em atividades criminosas ou violentas ou a promover política. Um ponto digno de nota diz respeito às paródias, sátiras ou conteúdos com valor de interesse público. Recorde-se que este último fator pesa frequentemente no processo de decisão.

Caso o vídeo gerado pela IA viole as regras, o autor terá até 48 horas para editar o vídeo. As reclamações relativas a conteúdos sintéticos são semelhantes às que envolvem dados pessoais, pelo que os criadores poderão desfocar, cortar ou remover o seu rosto. O YouTube avisa que, se a infração persistir, serão tomadas medidas adicionais contra o canal.

Empresa quer dar mais poder aos utilizadores

Ao contrário de uma política geral de identificação e remoção de conteúdos falsos, a plataforma prefere que os utilizadores afetados denunciem diretamente a infração. O pior de tudo é que o facto de assinalar que um deepfake nem sempre resultará na remoção do vídeo.

Nem todo o conteúdo será removido do YouTube e consideraremos uma variedade de fatores ao avaliar esses pedidos.

O YouTube, tal como muitas outras empresas, está a apostar fortemente na inteligência artificial. A empresa planeia lançar um gerador de música alimentado por IA para ser integrado nos seus Shorts.

A IA generativa tem o potencial de desbloquear a criatividade e transformar a experiência dos espectadores e criadores na nossa plataforma. Estamos na fase inicial do nosso trabalho e vamos continuar a desenvolver a nossa abordagem à medida que aprendemos mais.

Referiu Jennifer Flannery, gestora de produto do YouTube.

Leia também: