Den kunstige intelligens billedgenerator udviklet af Meta, kendt som Imagine, står over for anklager om racemæssig bias. Brugere har opdaget, at værktøjet ikke er i stand til at producere billeder af en asiatisk mand sammen med en hvid kvinde. Denne bias er overraskende, taget i betragtning af at Mark Zuckerberg, Metas administrerende direktør, er gift med en kvinde af østasiatisk oprindelse. Den AI-drevne billedgenerator, Imagine, blev lanceret i slutningen af 2023 og har evnen til at omdanne skrevne input til realistiske billeder næsten øjeblikkeligt. Brugere fandt dog, at den konsekvent mislykkedes med at generere billeder af par med forskellige racer. Når der blev bedt om et billede af en asiatisk mand med en hvid kone, viste værktøjet kun billeder af asiatiske par. Nogle brugere delte endda billeder af Zuckerberg og hans kone og lavede sjov med, at de manuelt kunne opnå det ønskede billede. The Verge rapporterede først om dette problem, hvor journalisten Mia Sato udtalte, at hun forsøgte at skabe billeder af asiatiske mænd og kvinder med hvide partnere eller venner flere dusin gange, men kun fik præcise resultater én gang.

Meta har endnu ikke svaret på Business Insiders anmodning om kommentar vedrørende denne sag. Det er værd at bemærke, at Meta ikke er det første tech-virksomhed, der står over for kritik for "racistisk" AI. Google måtte midlertidigt stoppe sin Gemini-billedgenerator, da det blev opdaget, at de genererede billeder var historisk ukorrekte, herunder afbildninger af asiatiske nazister i Tyskland i 1940, sorte vikinger og kvindelige middelalderlige riddere. Disse hændelser understreger de fortsatte bekymringer vedrørende racemæssige bias i AI-algoritmer. Når forudsigende algoritmer i høj grad baserer sig på crowdsourcede meninger, stereotyper eller biaset data, kan de fastholde eksklusion, stereotyper og uretfærdig målretning af enkeltpersoner og samfund. Generative AIs som Gemini og Imagine trækker på store mængder træningsdata fra samfundet. Hvis der mangler repræsentation af par med blandet race i disse data, kan det forklare AI'ens udfordringer med at generere den type billeder.