Chatbot AI Elon Musk, Grok, kini membenarkan pengguna untuk mencipta imej yang dihasilkan AI daripada arahan teks dan berkongsi mereka di media sosial. Walau bagaimanapun, alat ini telah menghadapi kontroversi kerana pengguna telah membanjiri platform dengan imej palsu figura politik, termasuk Donald Trump dan Kamala Harris, menggambarkan mereka dalam situasi yang palsu dan mengganggu. Tidak seperti alat foto AI lain, Grok nampaknya mempunyai sedikit had. Ujian CNN mendedahkan bahawa ia boleh menjana imej palsu, realistik ahli politik yang boleh mengelirukan pengundi. Pengguna juga mencipta dan berkongsi imej penggunaan dadah, tindakan ganas, dan kandungan seksual. Ini telah menimbulkan kebimbangan tentang potensi AI untuk menyebarkan maklumat palsu, terutamanya semasa pilihan raya presiden AS. Walaupun banyak syarikat AI terkemuka telah melaksanakan langkah-langkah untuk menghalang penyalahgunaan alat generasi imej AI mereka, adalah jelas bahawa langkah penguatkuasaan kadang-kadang boleh dielakkan.

Beberapa platform media sosial juga telah mengambil langkah untuk melabel kandungan yang dihasilkan oleh AI. Tidak jelas jika X mempunyai dasar terhadap Grok yang menghasilkan imej mengelirukan calon politik. Platform ini memang mempunyai dasar terhadap berkongsi media sintetik atau manipulasi yang boleh menipu atau membahayakan orang, tetapi penguatkuasaan dasar ini tidak jelas. Pelepasan alat imej Grok bertepatan dengan kritikan terhadap Musk kerana menyebarkan dakwaan palsu di X berkaitan dengan pilihan raya dan menjadi tuan rumah Trump untuk perbualan tanpa cabaran. Alat generasi imej AI lain juga telah menghadapi reaksi atas isu seperti menghasilkan gambaran sejarah yang tidak tepat atau membolehkan penciptaan video maklumat palsu. Walaupun Grok mempunyai beberapa sekatan, seperti tidak menjana kandungan eksplisit, penguatkuasaan batasan terhadap stereotaip berbahaya dan ucapan kebencian nampaknya tidak konsisten.