A Meta AI é consistentemente incapaz de gerar imagens precisas para solicitações aparentemente simples, como “homem asiático e amigo caucasiano” ou “homem asiático e esposa branca”. A beira . Em vez disso, o gerador de imagens da empresa parece inclinado a criar imagens de pessoas da mesma raça, mesmo quando explicitamente solicitado o contrário.
O Engadget confirmou esses resultados em nossos próprios testes do Meta gerador de imagens. Solicitações de “um homem asiático com uma amiga branca” ou “um homem asiático com uma esposa branca” geraram imagens de casais asiáticos. Quando questionado sobre “um grupo diversificado de pessoas”, o Meta AI gerou uma grade de nove rostos brancos e uma pessoa negra. Houve algumas ocasiões em que ele criou um único resultado que refletia o prompt, mas na maioria dos casos não conseguiu representar o prompt com precisão.
Como A beira aponta, existem outros sinais mais “sutis” de preconceito na Meta AI, como uma tendência de fazer os homens asiáticos parecerem mais velhos, enquanto as mulheres asiáticas parecem mais jovens. O gerador de imagens às vezes também adicionava “trajes culturalmente específicos”, mesmo quando isso não fazia parte da solicitação.
Não está claro por que a Meta AI está lutando com esses tipos de solicitações, embora não seja a primeira plataforma de IA generativa a ser examinada por sua representação de raça. O gerador de imagens Gemini do Google pausou sua capacidade de criar imagens de pessoas depois de corrigir excessivamente a diversidade com em respostas a perguntas sobre figuras históricas. Google que as suas salvaguardas internas não levaram em conta situações em que diversos resultados eram inadequados.
Meta não respondeu imediatamente a um pedido de comentário. A empresa descreveu anteriormente a Meta AI como estando em “beta” e, portanto, propensa a cometer erros. A Meta AI também tem se esforçado para responder com precisão sobre eventos atuais e figuras públicas.