Chatbot-ul AI al lui Elon Musk, Grok, le permite acum utilizatorilor să creeze imagini generate de AI din sugestii de text și să le partajeze pe rețelele sociale. Totuși, instrumentul a întâmpinat controverse deoarece utilizatorii au inundat platforma cu imagini false ale unor figuri politice, inclusiv Donald Trump și Kamala Harris, prezentându-le în situații false și deranjante. Spre deosebire de alte instrumente foto AI, Grok pare să aibă puține limitări. Testele CNN au relevat că acesta poate genera imagini false, realiste, ale politicienilor care ar putea induce în eroare alegătorii. Utilizatorii au creat și partajat de asemenea imagini despre consumul de droguri, acte violente și conținut sexualizat. Acest lucru a ridicat îngrijorări cu privire la potențialul AI-ului de a răspândi informații false, în special în timpul alegerilor prezidențiale din SUA. Deși multe companii de top din domeniul AI au implementat măsuri pentru a preveni utilizarea abuzivă a instrumentelor lor de generare a imaginilor AI, este evident că măsurile de aplicare pot fi uneori ocolite.

Unele platforme de social media au întreprins și ele măsuri pentru a eticheta conținutul generat de AI. Rămâne neclar dacă X are politici împotriva generării de către Grok a imaginilor înșelătoare ale candidaților politici. Platforma are o politică împotriva partajării de media sintetică sau manipulată care ar putea induce în eroare sau dăuna oamenilor, dar aplicarea acestei politici nu este clară. Lansarea instrumentului Grok coincide cu criticile la adresa lui Musk pentru răspândirea de afirmații false pe X legate de alegeri și găzduirea unei conversații necenzurate cu Trump. Alte instrumente de generare a imaginilor AI au întâmpinat reacții negative pentru probleme precum producerea unor reprezentări inexacte din punct de vedere istoric sau facilitarea creării de videoclipuri cu dezinformare. Deși Grok are unele restricții, cum ar fi neproducerea de conținut explicit, aplicarea limitărilor împotriva stereotipurilor dăunătoare și discursului de ură pare inconsistentă.