Le chatbot IA d'Elon Musk, Grok, permet désormais aux utilisateurs de créer des images générées par IA à partir de textes et de les partager sur les réseaux sociaux. Cependant, l'outil a fait face à des controverses car les utilisateurs ont inondé la plateforme avec des images fausses de figures politiques, y compris Donald Trump et Kamala Harris, les montrant dans des situations fausses et dérangeantes. Contrairement à d'autres outils photo d'IA, Grok semble avoir peu de limitations en place. Les tests de CNN ont révélé qu'il pouvait générer des images fausses et réalistes de politiciens qui pourraient induire les électeurs en erreur. Les utilisateurs ont également créé et partagé des images de consommation de drogue, d'actes violents et de contenu sexualisé. Cela a soulevé des préoccupations quant au potentiel de l'IA à propager de fausses informations, notamment pendant l'élection présidentielle américaine. Alors que de nombreuses grandes entreprises d'IA ont mis en place des mesures pour empêcher l'utilisation abusive de leurs outils de génération d'images IA, il est évident que ces mesures peuvent parfois être contournées.

Certaines plateformes de médias sociaux ont également pris des mesures pour étiqueter le contenu généré par IA. Il n'est pas clair si X dispose de politiques contre la génération d'images trompeuses de candidats politiques par Grok. La plateforme a une politique contre le partage de médias synthétiques ou manipulés pouvant tromper ou nuire aux gens, mais l'application de cette politique n'est pas claire. La sortie de l'outil d'image Grok coïncide avec des critiques envers Musk pour avoir diffusé de fausses affirmations sur X en lien avec l'élection et pour avoir accueilli Trump pour une conversation sans opposition. D'autres outils de génération d'images IA ont fait face à des réactions négatives pour la production de représentations historiquement inexactes ou pour avoir permis la création de vidéos de désinformation. Bien que Grok ait certaines restrictions, comme ne pas générer de contenu explicite, l'application des limitations contre les stéréotypes nuisibles et les discours de haine semble incohérente.