El chatbot d'IA d'Elon Musk, Grok, ara permet als usuaris crear imatges generades per IA a partir de sol·licituds de text i compartir-les a les xarxes socials. Tanmateix, l'eina ha generat controvèrsia, ja que els usuaris han inundat la plataforma amb imatges falses de figures polítiques, incloent Donald Trump i Kamala Harris, depictant-los en situacions falses i pertorbadores. A diferència d'altres eines de fotos d'IA, Grok sembla tenir poques limitacions. Les proves de CNN van revelar que podia generar imatges falses i realistes de polítics que podrien enganyar els votants. Els usuaris també van crear i compartir imatges de consum de drogues, actes violents i contingut sexualitzat. Això ha generat preocupacions sobre el potencial de l'IA per difondre informació falsa, especialment durant les eleccions presidencials dels Estats Units. Tot i que moltes empreses líders d'IA han implementat mesures per prevenir l'ús indegut de les seves eines de generació d'imatges d'IA, és evident que les mesures d'aplicació poden a vegades ser esquivades.

Algunes plataformes de xarxes socials també han pres mesures per etiquetar el contingut generat per IA. No està clar si X té polítiques contra Grok generant imatges enganyoses de candidats polítics. La plataforma sí té una política contra compartir mitjans sintètics o manipulats que puguin enganyar o danyar a les persones, però l'aplicació d'aquesta política no és clara. El llançament de l'eina d'imatges de Grok coincideix amb crítiques cap a Musk per difondre afirmacions falses a X relacionades amb les eleccions i acollir Trump per una conversa sense contradiccions. Altres eines de generació d'imatges d'IA han enfrontat rebuig per problemes com produir representacions històricament inexactes o permetre la creació de vídeos de desinformació. Tot i que Grok té algunes restriccions, com no generar contingut explícit, la seva aplicació de limitacions contra estereotips nocius i discurs d'odi sembla inconsistent.