IA da Meta tem dificuldade em criar imagens de casais de origens diferentes

A Meta AI é constantemente incapaz de gerar imagens precisas para pedidos aparentemente simples como “homem asiático e amigo caucasiano” ou “homem asiático e esposa branca”, relata o The Verge. Em vez disso, o gerador de imagens da empresa parece estar inclinado a criar imagens de pessoas da mesma origem, mesmo quando explicitamente solicitado de outra forma.

Meta AI é bastante parcial

A fonte afirma que pedidos como “uma mulher asiática com um homem branco” e outros pedidos de casais de origens diferentes geraram imagens de casais da mesma origem. Quando lhe foi pedido “um grupo diversificado de pessoas”, a Meta AI gerou uma grelha de nove rostos brancos e uma pessoa de cor.

Houve algumas ocasiões em que criou um único resultado que refletia o pedido, mas na maioria dos casos não conseguiu representar com precisão o pedido.

Como refere o The Verge, existem outros sinais mais “subtis” de parcialidade na Meta AI, como a tendência para fazer com que os homens asiáticos pareçam mais velhos e as mulheres asiáticas mais novas. O gerador de imagens também adicionou algumas vezes “trajes culturalmente específicos”, mesmo quando isso não fazia parte do prompt.

Não é primeira plataforma a ser examinada pela sua representação da origem

Não é claro porque é que a Meta AI está a ter dificuldades com este tipo de pedidos, embora não seja a primeira plataforma de IA generativa a ser examinada pela sua representação da origem. O gerador de imagens Gemini da Google suspendeu a sua capacidade de criar imagens de pessoas depois de ter corrigido excessivamente a diversidade com resultados estranhos em pedidos de resposta sobre figuras históricas.

Mais tarde, a Google explicou que as suas salvaguardas internas não conseguiram ter em conta as situações em que os resultados diversos eram inadequados.

A Meta descreveu anteriormente a Meta AI como estando em “beta” e, portanto, propensa a cometer erros. A Meta AI também tem tido dificuldade em responder com precisão a perguntas simples sobre eventos atuais e figuras públicas.

Leia também:

União Europeia ameaça Apple, Google e Meta por violação das novas regras da DMA