In einer Reihe von Erfahrungen mit KI-Bildgeneratoren wurde festgestellt, dass mehrere Plattformen Schwierigkeiten hatten, Bilder von asiatischen Männern und weißen Frauen zu generieren. Der in Instagram Messaging von Meta integrierte KI-Bildgenerator änderte konsequent die Rasse der Frau zu asiatisch, wenn er aufgefordert wurde, ein Bild von einem asiatischen Mann und einer weißen Frau zu erstellen. Darüber hinaus schienen Anfragen mit Schlüsselwörtern wie "asiatischer Mann" oder "afroamerikanischer Mann" am folgenden Tag von Meta blockiert zu werden. Ähnliche Probleme wurden von Lesern mit anderen KI-Modellen gemeldet, was auf Schwierigkeiten bei der Kombination von asiatischen Männern und weißen Frauen hinweist. Andere Plattformen wie Google Gemini und Midjourney hatten ebenfalls Schwierigkeiten, Bilder dieser interrassischen Paarung zu generieren.

Obwohl einige Versuche unternommen wurden, waren die Ergebnisse oft inkonsistent oder führten zu Verwirrung. Die in den Trainingsdaten dieser KI-Systeme eingebetteten Auswirkungen und Voreingenommenheiten werfen Fragen nach Repräsentation und gesellschaftlichen Normen auf. Google, OpenAI, Midjourney und Meta wurden um Stellungnahme gebeten, haben jedoch keine Antwort gegeben. Obwohl Meta die Unvollkommenheiten anerkennt und an Verbesserungen arbeitet, betont das Unternehmen die kontinuierliche Veröffentlichung von Updates zur Verbesserung seiner KI-Modelle.