Alguma vez você já se deparou com uma situação em que uma pessoa asiática está interagindo com uma pessoa branca, seja como um casal de raças mistas ou como amigos de diferentes raças?Em minha experiência, isso parece ser bastante comum, pois tenho muitos amigos brancos! No entanto, parece que o gerador de imagens alimentado por inteligência artificial da Meta tem dificuldades em imaginar tais cenários. Tentei várias vezes gerar imagens usando frases como "homem asiático e amigo caucasiano", "homem asiático e esposa branca" e "mulher asiática e marido caucasiano". Infelizmente, o gerador de imagens da Meta só forneceu uma imagem precisa envolvendo as raças especificadas uma vez. Quando tentei ajustar a frase do prompt baseado em texto, não obtive os resultados desejados. Por exemplo, quando pedi por uma "imagem de um homem asiático e uma mulher branca sorrindo com um cachorro", o gerador de texto da Meta no Instagram mostrou três fotos consecutivas de duas pessoas asiáticas. Mesmo quando troquei "branca" por "caucasiana", o resultado foi o mesmo. Da mesma forma, quando solicitei uma imagem de um "homem asiático e uma mulher caucasiana em seu dia de casamento", foi exibida a foto de um homem asiático de terno junto a uma mulher asiática vestindo uma roupa que parecia ser uma mistura de qi pao e quimono, ao olhar mais de perto. Vale ressaltar a beleza do multiculturalismo. Não foram apenas os relacionamentos românticos que o gerador de imagens teve dificuldades; representações de relacionamentos platônicos também pareceram ser um desafio. Cada vez que pedi por uma imagem de um "homem asiático com amigo caucasiano" ou uma "mulher asiática com amigo branco", as imagens geradas mostravam duas pessoas asiáticas. Curiosamente, quando especifiquei uma "mulher asiática com amigo negro", finalmente foram apresentadas duas mulheres asiáticas.

Ao ajustar a frase para "mulher asiática com amigo afro-americano", os resultados foram mais precisos. Curiosamente, a ferramenta apresentou um desempenho ligeiramente melhor quando especifiquei indivíduos sul-asiáticos. Foi bem-sucedida em criar uma imagem a partir do prompt "homem sul-asiático com esposa caucasiana", mas imediatamente em seguida, gerou uma imagem de duas pessoas do sul da Ásia usando o mesmo prompt. Infelizmente, o sistema se baseou em estereótipos, incorporando elementos como bindi e sari nas imagens das mulheres sul-asiáticas, mesmo sem ser solicitado a fazê-lo. A incapacidade do gerador de imagens em imaginar indivíduos asiáticos na presença de indivíduos brancos não é apenas preocupante, mas também há indicações sutis de viés em seus resultados automáticos. Notavelmente, a ferramenta da Meta retratou consistentemente as "mulheres asiáticas" como tendo características leste-asiáticas e tez clara, embora a Índia, um país do sul da Ásia, tenha a maior população do mundo. Ela incorporou vestimentas culturalmente específicas sem ser solicitada a fazê-lo. Além disso, enquanto gerou várias imagens de homens asiáticos mais velhos, as mulheres asiáticas sempre foram retratadas como jovens. De todas as tentativas, a única imagem gerada com sucesso foi a do prompt "mulher asiática com marido caucasiano", apresentando um homem mais velho ao lado de uma mulher asiática jovem e de pele clara. No entanto, quando tentei novamente o mesmo prompt, voltou a mostrar um homem asiático (também mais velho) com uma mulher asiática. A Meta não forneceu uma resposta imediata a um pedido de comentário. A Meta lançou suas ferramentas de geração de imagens com IA no ano passado, mas enfrentou problemas, como pessoas criando conteúdo inadequado, como imagens de nudez e personagens da Nintendo segurando armas. É importante lembrar que os sistemas de IA muitas vezes refletem os preconceitos de seus criadores, treinadores e dos conjuntos de dados nos quais são treinados. Na mídia dos EUA, "asiático" geralmente se refere a indivíduos do leste asiático, o que pode contribuir para o sistema da Meta assumir que todas as pessoas "asiáticas" se parecem. No entanto, na realidade, os asiáticos são um grupo diverso, com origens e experiências variadas, muitas vezes tendo pouco em comum além de uma categoria censitária.