Il chatbot AI di Elon Musk, Grok, ora consente agli utenti di creare immagini generate dall'AI a partire da prompt testuali e di condividerle sui social media. Tuttavia, lo strumento ha affrontato controversie poiché gli utenti hanno inondato la piattaforma con immagini false di figure politiche, tra cui Donald Trump e Kamala Harris, raffigurandoli in situazioni false e inquietanti. A differenza di altri strumenti di fotoritocco AI, Grok sembra avere poche limitazioni. I test di CNN hanno rivelato che poteva generare immagini false e realistiche di politici che potrebbero fuorviare gli elettori. Gli utenti hanno anche creato e condiviso immagini di consumo di droghe, atti violenti e contenuti sessualizzati. Ciò ha sollevato preoccupazioni sul potenziale dell'AI di diffondere informazioni false, in particolare durante le elezioni presidenziali degli Stati Uniti. Sebbene molte grandi aziende di AI abbiano implementato misure per prevenire l'uso improprio dei loro strumenti di generazione di immagini AI, è evidente che le misure di applicazione possano a volte essere bypassate.

Alcune piattaforme di social media hanno anche preso provvedimenti per etichettare i contenuti generati dall'AI. Non è chiaro se X abbia politiche contro il fatto che Grok generi immagini fuorvianti di candidati politici. La piattaforma ha una politica contro la condivisione di media sintetici o manipolati che potrebbero ingannare o danneggiare le persone, ma l'applicazione di questa politica non è chiara. Il rilascio dello strumento di immagini Grok coincide con le critiche rivolte a Musk per aver diffuso false affermazioni su X relative alle elezioni e per aver ospitato Trump per una conversazione senza contraddittorio. Altri strumenti di generazione di immagini AI hanno affrontato critiche per problemi come la produzione di rappresentazioni storicamente inaccurate o l'abilitazione della creazione di video disinformativi. Sebbene Grok abbia alcune restrizioni, come non generare contenuti espliciti, l'applicazione delle limitazioni contro stereotipi dannosi e discorsi di odio appare incoerente.