Chatbot AI Elona Muska, Grok, nyní umožňuje uživatelům vytvářet uměle generované obrázky ze slovních podnětů a sdílet je na sociálních médiích. Nicméně nástroj čelil kontroverzi, protože uživatelé zaplavili platformu falešnými obrázky politických osobností, včetně Donalda Trumpa a Kamaly Harris, zobrazující je v nepravdivých a znepokojivých situacích. Na rozdíl od jiných AI nástrojů pro fotky se zdá, že Grok má jen málo omezení. Testy CNN odhalily, že může generovat falešné, realistické obrázky politiků, které by mohly být zavádějící pro voliče. Uživatelé také vytvářeli a sdíleli obrázky znázorňující užívání drog, násilné činy a sexualizovaný obsah. To vyvolalo obavy o potenciál AI šířit nepravdivé informace, zvláště během prezidentských voleb v USA. Zatímco mnoho předních AI společností zavedlo opatření k zabránění zneužití jejich nástrojů pro generování obrázků, je zřejmé, že opatření na prosazování mohou být někdy překonána.

Některé sociální mediální platformy také podnikly kroky k označování uměle generovaného obsahu. Není jasné, zda má X zásady proti generování zavádějících obrázků politických kandidátů. Platforma má zásady proti sdílení syntetických nebo manipulovaných médií, která by mohla klamat nebo škodit lidem, ale prosazování této politiky není zřejmé. Uvedení nástroje Grok pro obrázky se shoduje s kritikou vůči Muskovi za šíření nepravdivých tvrzení na X souvisejících s volbami a za hostování nerozporovaných rozhovorů s Trumpem. Další nástroje pro generování obrázků AI čelily kritice za produkci historicky nesprávných vyobrazení nebo za umožnění vytváření dezinformačních videí. Ačkoli Grok má určitá omezení, jako je negenerování explicitního obsahu, jeho prosazování omezení proti škodlivým stereotypům a nenávistné řeči se zdá být nekonzistentní.