Elon Musks AI-chatbot, Grok, giver nu brugerne mulighed for at skabe AI-genererede billeder fra tekstindstillinger og dele dem på sociale medier. Værktøjet har dog stået over for kontroverser, da brugerne har oversvømmet platformen med falske billeder af politiske figurer, herunder Donald Trump og Kamala Harris, der skildrer dem i falske og foruroligende situationer. I modsætning til andre AI-fotoværktøjer ser det ud til, at Grok har få begrænsninger på plads. CNN-tests viste, at det kunne generere falske, realistiske billeder af politikere, der kunne være vildledende for vælgerne. Brugerne oprettede og delte også billeder af stofmisbrug, voldelige handlinger og seksualiseret indhold. Dette har rejst bekymringer om potentialet for AI til at sprede falsk information, især under det amerikanske præsidentvalg. Mens mange førende AI-virksomheder har implementeret foranstaltninger for at forhindre misbrug af deres AI-billedgenereringsværktøjer, er det klart, at håndhævelsesforanstaltninger undertiden kan omgås.

Nogle sociale medieplatforme har også taget skridt til at mærke AI-genereret indhold. Det er uklart, om X har politikker mod, at Grok genererer vildledende billeder af politiske kandidater. Platformen har en politik mod deling af syntetiske eller manipulerede medier, der kan bedrage eller skade mennesker, men håndhævelsen af denne politik er ikke klar. Udgivelsen af Grok-billedværktøjet falder sammen med kritik mod Musk for at sprede falske påstande på X relateret til valget og at være vært for Trump til en uantastet samtale. Andre AI-billedgenereringsværktøjer har også stået over for modreaktioner på problemer som at producere historisk unøjagtige skildringer eller muligøre skabelsen af misinformation-videor. Selvom Grok har visse begrænsninger, såsom ikke at generere eksplicit indhold, ser dens håndhævelse af begrænsninger mod skadelige stereotyper og hadefuld tale ud til at være inkonsekvent.