A Meta AI é constantemente incapaz de gerar imagens precisas para pedidos aparentemente simples como “homem asiático e amigo caucasiano” ou “homem asiático e esposa branca”, relata o The Verge. Em vez disso, o gerador de imagens da empresa parece estar inclinado a criar imagens de pessoas da mesma origem, mesmo quando explicitamente solicitado de outra forma.
Meta AI é bastante parcial
A fonte afirma que pedidos como “uma mulher asiática com um homem branco” e outros pedidos de casais de origens diferentes geraram imagens de casais da mesma origem. Quando lhe foi pedido “um grupo diversificado de pessoas”, a Meta AI gerou uma grelha de nove rostos brancos e uma pessoa de cor.
Houve algumas ocasiões em que criou um único resultado que refletia o pedido, mas na maioria dos casos não conseguiu representar com precisão o pedido.
Como refere o The Verge, existem outros sinais mais “subtis” de parcialidade na Meta AI, como a tendência para fazer com que os homens asiáticos pareçam mais velhos e as mulheres asiáticas mais novas. O gerador de imagens também adicionou algumas vezes “trajes culturalmente específicos”, mesmo quando isso não fazia parte do prompt.
Não é primeira plataforma a ser examinada pela sua representação da origem
Não é claro porque é que a Meta AI está a ter dificuldades com este tipo de pedidos, embora não seja a primeira plataforma de IA generativa a ser examinada pela sua representação da origem. O gerador de imagens Gemini da Google suspendeu a sua capacidade de criar imagens de pessoas depois de ter corrigido excessivamente a diversidade com resultados estranhos em pedidos de resposta sobre figuras históricas.
Mais tarde, a Google explicou que as suas salvaguardas internas não conseguiram ter em conta as situações em que os resultados diversos eram inadequados.
A Meta descreveu anteriormente a Meta AI como estando em “beta” e, portanto, propensa a cometer erros. A Meta AI também tem tido dificuldade em responder com precisão a perguntas simples sobre eventos atuais e figuras públicas.
Leia também: