AI-giganter står over for udfordringen med at sikre, at kunstige intelligens-modeller afspejler verdens mangfoldighed uden at være overdrevet politisk korrekte. Der er en bekymring for, at AI, der er bygget på potentielt biaseret information, løber risikoen for at automatisere diskrimination. Kvaliteten af ​​AI's beslutningstagning afhænger af den input, den modtager, som kan indeholde både nyttige og fordomsfulde indhold. Det er farligt, fordi folk i stigende grad er afhængige af AI-software. Bias i AI kan blive forstærket af bias i menneskelig kultur. At sikre, at AI afspejler menneskelig mangfoldighed, er ikke bare et politisk valg; det er afgørende for at forhindre diskrimination i AI-applikationer som ansigtsgenkendelse.

Dog er der en fin grænse mellem at afspejle mangfoldighed på passende vis og være alt for politisk korrekte, som det blev set, da Googles billedgenerator producerede et billede af tyske soldater fra Anden Verdenskrig, inklusive individer af forskellige racer. Teknologiske løsninger på bias er begrænsede, da generative AI-modeller ikke kan resonere om bias eller træffe handling for at adressere dem. Ansvaret for at sikre passende og upartisk AI-output ligger i øjeblikket hos mennesker. Forsøg på at adressere bias i AI-modeller er i gang, men det er en kompleks opgave, givet den hurtige hastighed, hvormed nye modeller introduceres. Metoder som algoritmisk udgydning og finjustering bliver udforsket, men deres effektivitet er usikker. Nogle mener, at bias er iboende i både mennesker og AI og ikke kan udryddes fuldstændigt.