Avez-vous déjà été confronté à une situation où une personne asiatique interagit avec une personne blanche, que ce soit en tant que couple mixte ou en tant qu'amis de races différentes ?D'après mon expérience, cela semble assez courant car j'ai beaucoup d'amis blancs ! Cependant, il semble que l'outil de génération d'images basé sur l'IA de Meta ait du mal à imaginer de tels scénarios. J'ai essayé à plusieurs reprises de générer des images en utilisant des requêtes telles que "homme asiatique et ami caucasien", "homme asiatique et femme blanche", et "femme asiatique et mari caucasien". Malheureusement, l'outil de génération d'images de Meta ne m'a fourni qu'une seule image précise correspondant aux races spécifiées. Lorsque j'ai essayé de modifier la requête basée sur le texte, je n'ai pas obtenu les résultats escomptés. Par exemple, lorsque j'ai demandé une image d'un "homme asiatique et d'une femme blanche souriant avec un chien", l'outil de génération de texte de Meta sur Instagram a montré trois images consécutives de deux personnes asiatiques. Même lorsque j'ai changé "blanche" par "caucasienne", le résultat était le même. De la même manière, lorsque j'ai demandé une image d'un "homme asiatique et d'une femme caucasienne le jour de leur mariage", il a affiché un homme asiatique en costume aux côtés d'une femme asiatique portant un vêtement qui, après un examen plus attentif, semblait être un mélange d'un qipao et d'un kimono. Il convient de noter la beauté du multiculturalisme. Ce n'est pas seulement dans les relations amoureuses que l'outil de génération d'images a rencontré des difficultés ; les représentations des relations platoniques semblaient également poser problème. Chaque fois que je demandais une image d'un "homme asiatique avec un ami caucasien" ou d'une "femme asiatique avec une amie blanche", les images générées montraient deux individus asiatiques. Curieusement, lorsque j'ai précisé une "femme asiatique avec un ami noir", il a enfin présenté deux femmes asiatiques.

En ajustant la formulation à "femme asiatique avec une amie afro-américaine", les résultats étaient plus précis. Curieusement, l'outil présentait des performances légèrement meilleures lorsque je spécifiais des individus d'Asie du Sud. Il a réussi à créer une image avec la requête "homme d'Asie du Sud avec une épouse caucasienne", mais immédiatement après, il a généré une image de deux personnes d'Asie du Sud en utilisant la même requête. Malheureusement, le système s'est appuyé sur des stéréotypes, incorporant des éléments tels qu'un bindi et un sari dans les images de femmes d'Asie du Sud sans aucune instruction en ce sens. L'incapacité de l'outil de génération d'images à imaginer des individus asiatiques en présence d'individus blancs est non seulement préoccupante, mais il y a également des indications plus subtiles de biais dans ses résultats automatiques. Notamment, l'outil de Meta a systématiquement représenté les "femmes asiatiques" avec des traits d'Asie de l'Est et un teint clair, même si l'Inde, un pays d'Asie du Sud, a la plus grande population au monde. Il a incorporé des vêtements culturellement spécifiques sans y être invité. De plus, bien qu'il ait généré plusieurs images d'hommes asiatiques plus âgés, les femmes asiatiques étaient toujours représentées comme jeunes. Parmi toutes les tentatives, la seule image réussie générée provenait de la requête "femme asiatique avec un mari caucasien", avec un homme plus âgé aux côtés d'une femme asiatique jeune et à la peau claire. Cependant, lorsque j'ai essayé la même demande à nouveau, il est revenu à afficher un homme asiatique (également plus âgé) avec une femme asiatique. Meta n'a pas répondu immédiatement à une demande de commentaire. Meta a introduit ses outils de génération d'images basés sur l'IA l'année dernière, mais il a rencontré des problèmes tels que des personnes créant du contenu inapproprié comme des images nues et des personnages de Nintendo tenant des armes. Il est important de se rappeler que les systèmes d'IA reflètent souvent les biais de leurs créateurs, formateurs et jeux de données sur lesquels ils sont entraînés. Dans les médias américains, "asiatique" désigne généralement les individus d'Asie de l'Est, ce qui contribue potentiellement à ce que le système de Meta suppose que tous les "Asiatiques" se ressemblent. Cependant, dans la réalité, les Asiatiques forment un groupe diversifié avec des origines et des expériences variées, partageant souvent peu de choses en dehors d'une catégorie de recensement.