Den AI-baserade bildgeneratorn utvecklad av Meta, känd som Imagine, står inför anklagelser om rasbi. Användare har upptäckt att verktyget inte kan producera bilder som skildrar en asiatisk man med en vit kvinna. Denna partiskhet är överraskande med tanke på att Mark Zuckerberg, Metas VD, är gift med en kvinna av östasiatiskt ursprung. AI-drivna bildgeneratorn Imagine lanserades sent 2023 och har förmågan att omvandla skrivna instruktioner till realistiska bilder nästan omedelbart. Användare har dock funnit att den konsekvent misslyckas med att generera bilder med blandade raspar. När man bad om en bild på en asiatisk man med en vit fru visade verktyget endast bilder på asiatiska par. Vissa användare delade till och med bilder på Zuckerberg och hans fru och skämtade om att de manuellt kunde åstadkomma den önskade bilden. The Verge rapporterade först detta problem, där journalisten Mia Sato berättade att hon försökte skapa bilder på asiatiska män och kvinnor med vita partners eller vänner dussintals gånger, men endast fick korrekta resultat en gång.

Meta har ännu inte svarat på begäran om kommentar från Business Insider angående denna fråga. Det bör noteras att Meta inte är det första teknikföretaget som står inför kritik för "rasistisk" AI. Google var tvungna att tillfälligt stoppa sin bildgenerator Gemini när det upptäcktes att de genererade bilderna var historiskt felaktiga, inklusive avbildningar av asiatiska nazister i Tyskland 1940, svarta vikingar och kvinnliga medeltida riddare. Dessa incidenter lyfter fram de pågående farhågorna gällande rasbaserade snedvridningar i AI-algoritmer. När förutsägande algoritmer starkt förlitar sig på inputs från grupperade åsikter, stereotyper eller partisk data, kan de upprätthålla uteslutning, stereotyper och orättvis inriktning mot individer och samhällen. Generativa AI-system som Gemini och Imagine bygger på stora mängder träningsdata som hämtas från samhället. Om det finns en brist på representation av par med blandad ras i denna data kan det förklara AI:ns svårigheter att generera den typen av bilder.