Der KI-Bildgenerator von Meta namens Imagine sieht sich Vorwürfen des rassistischen Vorurteils gegenüber. Benutzer haben herausgefunden, dass das Tool nicht in der Lage ist, Bilder von einem asiatischen Mann mit einer weißen Frau zu erzeugen. Diese Voreingenommenheit ist überraschend, wenn man bedenkt, dass Mark Zuckerberg, der CEO von Meta, mit einer Frau ostasiatischer Abstammung verheiratet ist. Der KI-gesteuerte Bildgenerator Imagine wurde Ende 2023 eingeführt und hat die Fähigkeit, geschriebene Anweisungen fast sofort in realistische Bilder umzuwandeln. Benutzer stellten jedoch fest, dass er regelmäßig daran scheiterte, Bilder von Gemischtrassigen-Paaren zu generieren. Wenn nach einem Bild von einem asiatischen Mann mit einer weißen Ehefrau gefragt wurde, zeigte das Tool nur Bilder von asiatischen Paaren an. Einige Benutzer teilten sogar Bilder von Zuckerberg und seiner Frau und machten Witze darüber, dass sie das gewünschte Bild manuell erstellt hätten. The Verge berichtete erstmals über dieses Problem, wobei Reporterin Mia Sato angab, dass sie dutzende Male versucht habe, Bilder von asiatischen Männern und Frauen mit weißen Partnern oder Freunden zu erstellen, aber nur einmal korrekte Ergebnisse erhalten habe.

Meta hat bisher nicht auf die Anfrage von Business Insider zu dieser Angelegenheit geantwortet. Es ist erwähnenswert, dass Meta nicht das erste Technologieunternehmen ist, das Kritik für "rassistische" KI begegnet. Google musste seinen Bildgenerator Gemini vorübergehend stoppen, als entdeckt wurde, dass die erzeugten Bilder historisch ungenau waren, darunter auch Darstellungen von asiatischen Nazis im Deutschland von 1940, schwarzen Wikingern und weiblichen mittelalterlichen Rittern. Diese Vorfälle verdeutlichen die fortlaufenden Bedenken hinsichtlich rassischer Vorurteile in KI-Algorithmen. Wenn prädiktive Algorithmen stark auf Meinungen aus der Masse, Vorurteile oder voreingenommene Daten angewiesen sind, können sie Ausschluss, Stereotypen und ungerechte Zielauswahl von Einzelpersonen und Gemeinschaften perpetuieren. Generative KIs wie Gemini und Imagine greifen auf eine große Menge an Schulungsdaten aus der Gesellschaft zurück. Wenn es in diesen Daten an Repräsentation von Gemischtrassigen-Paaren mangelt, könnte dies die Schwierigkeiten der KI bei der Erzeugung solcher Bilder erklären.