Consegue distinguir entre uma imagem verdadeira e uma gerada por IA? Faça o teste!

À medida que as ferramentas baseadas em Inteligência Artificial (IA) se desenvolvem, os utilizadores temem que aquilo que elas são capazes de produzir se torne impercetível, sendo cada vez mais difícil distinguir o que é produto da tecnologia e o que é produto de um ser humano. Por exemplo, ainda consegue distinguir entre uma imagem verdadeira e uma gerada por IA?

Inicialmente, as imagens geradas por ferramentas baseadas em IA eram quase impercetíveis, não sendo muito claro que haviam sido produzidas por uma máquina.

Agora, as preocupações relativamente à desinformação que esses conteúdos podem promover mantém-se. Afinal, apesar de os utilizadores estarem mais treinados, as ferramentas de IA são mais capazes.

Neste sentido, a Microsoft desenhou um teste, por forma a perceber até que ponto os utilizadores conseguiriam distinguir imagens verdadeiras de imagens geradas por IA.

Teste aqui

Microsoft deixa alerta sobre imagens geradas com recurso a IA

O questionário online criado pela Microsoft inclui imagens selecionadas aleatoriamente de bibliotecas de fotos e vários modelos de IA. O estudo da empresa analisou 287.000 imagens visualizadas por 12.500 participantes de todo o mundo.

Os participantes tiveram mais sucesso na identificação de imagens de pessoas geradas por IA, com uma taxa de precisão de 65%.

No entanto, as imagens falsas mais convincentes foram as deepfakes Generative Adversarial Networks (GAN) que mostravam apenas perfis faciais ou usavam inpainting para inserir elementos gerados por IA em fotos reais.

Apesar de serem uma das formas mais antigas de imagens geradas por IA, os deepfakes GAN ainda enganaram cerca de 55% dos participantes. Em parte, este resultado deveu-se ao facto de essas imagens conterem menos detalhes que os geradores de imagens normalmente têm dificuldade em replicar.

Além disso, a semelhança com fotografias de baixa qualidade torna-os, muitas vezes, mais credíveis.

Segundo os investigadores, a crescente popularidade dos geradores de imagens baseados em IA familiarizou os utilizadores da estética excessivamente suave que essas ferramentas costumam produzir.

Ainda assim, solicitar à IA que imite uma fotografia autêntica pode reduzir esse efeito.

Os participantes tiveram um pouco menos de sucesso na identificação de imagens geradas por IA de paisagens naturais ou urbanas que não incluíam pessoas. Por exemplo, duas das imagens falsas com as taxas de identificação mais baixas (21% e 23%) foram geradas usando prompts que incorporavam fotografias reais para orientar a composição.

Curiosamente, as três imagens com as taxas de identificação mais baixas em geral - 12%, 14% e 18% - eram, na verdade, fotografias reais que os participantes identificaram erradamente como falsas. As três mostravam militares dos Estados Unidos em cenários incomuns, com iluminação, cores e velocidades do obturador incomuns.

De acordo com a Microsoft, entender os prompts que são mais propensos a enganar os utilizadores pode tornar as futuras informações falsas ainda mais persuasivas. Além disso, a empresa aponta o estudo como um lembrete da importância da identificação clara das imagens geradas por IA.