Elon Musks AI-chatbot, Grok, tillater nå brukere å lage AI-genererte bilder fra tekstspørsmål og dele dem på sosiale medier. Imidlertid har verktøyet møtt kontroverser ettersom brukere har oversvømt plattformen med falske bilder av politiske skikkelser, inkludert Donald Trump og Kamala Harris, og viser dem i falske og forstyrrende situasjoner. I motsetning til andre AI-fotoverktøy ser det ut til at Grok har få begrensninger. CNN-tester avslørte at det kunne generere falske, realistiske bilder av politikere som kunne villedende velgere. Brukere laget og delte også bilder av narkotikabruk, voldelige handlinger og seksualisert innhold. Dette har vakt bekymringer for AI's potensial til å spre falsk informasjon, spesielt under presidentvalget i USA. Mens mange ledende AI-selskaper har implementert tiltak for å forhindre misbruk av sine AI-bildegenereringsverktøy, er det tydelig at håndhevingstiltak noen ganger kan omgås.

Noen sosiale medieplattformer har også tatt grep for å merke AI-generert innhold. Det er uklart om X har retningslinjer mot at Grok genererer villedende bilder av politiske kandidater. Plattformen har en politikk mot deling av syntetisk eller manipulert media som kan villede eller skade folk, men håndhevingen av denne politikken er ikke klar. Utgivelsen av Grok-bildeverktøyet sammenfaller med kritikk mot Musk for å spre falske påstander på X relatert til valget og å arrangere en udiskutert samtale med Trump. Andre AI-bildegenereringsverktøy har møtt tilbakeslag for problemer som å produsere historisk unøyaktige fremstillinger eller muliggjøre opprettelsen av misinformasjon videoer. Selv om Grok har noen begrensninger, som å ikke generere eksplisitt innhold, virker håndheving av begrensninger mot skadelige stereotyper og hatefull tale inkonsekvent.