Elon Musk AI-chatbotja, a Grok, most lehetővé teszi a felhasználók számára, hogy szöveges utasításokból AI által generált képeket készítsenek, és megosszák azokat a közösségi médiában. Azonban az eszköz vitákat váltott ki, mivel a felhasználók hamis képekkel árasztották el a platformot politikai szereplőkről, köztük Donald Trumpról és Kamala Harrisről, hamis és zavaró helyzetekben ábrázolva őket. Más AI fotóeszközökkel ellentétben a Grok úgy tűnik, hogy kevés korlátozással rendelkezik. A CNN tesztjei megmutatták, hogy valósághű, hamis képeket tud generálni politikai szereplőkről, amelyek félrevezethetik a választókat. A felhasználók kábítószer-használatról, erőszakos cselekedetekről és szexualizált tartalomról is készítettek és megosztottak képeket. Ez aggodalmakat vetett fel az AI potenciális veszélyeivel kapcsolatban, különösen az amerikai elnökválasztás során. Míg sok vezető AI vállalat intézkedéseket vezetett be az AI képgeneráló eszközeinek visszaélése elleni védelem érdekében, nyilvánvaló, hogy néha ezek az intézkedések megkerülhetőek.

Néhány közösségi média platform is lépéseket tett az AI által generált tartalom megjelölésére. Nem világos, hogy az X rendelkezik-e politikával a Grok által generált félrevezető politikai képekkel szemben. A platformnak van ugyan politikája a szintetikus vagy manipulált média megosztása ellen, amely megtévesztheti vagy károsíthatja az embereket, de ennek a politikának az érvényesítése nem egyértelmű. A Grok képeszköz megjelenése egybeesik azzal a kritikával, amely Muskkal szemben megfogalmazódott az X-en kapcsolódó választási hamis állítások terjesztése miatt, és Trump kihívás nélkül zajló beszélgetése miatt. Más AI képgeneráló eszközök is szembesültek visszahatással a történelmileg pontatlan ábrázolások előállítása vagy a félrevezető videók készítésének lehetősége miatt. Bár a Groknak vannak bizonyos korlátozásai, például nem generál kifejezetten erotikus tartalmat, a káros sztereotípiákkal és gyűlöletbeszéddel szembeni korlátozások betartása következetlennek tűnik.