Chatbot AI Elon Musk, Grok, sekarang memungkinkan pengguna untuk membuat gambar AI dari teks dan membagikannya di media sosial. Namun, alat ini telah menghadapi kontroversi karena pengguna membanjiri platform dengan gambar palsu tokoh politik, termasuk Donald Trump dan Kamala Harris, yang menggambarkan mereka dalam situasi yang salah dan mengganggu. Tidak seperti alat foto AI lainnya, Grok tampaknya memiliki sedikit batasan. Tes CNN mengungkapkan bahwa alat ini bisa menghasilkan gambar palsu yang realistis dari politisi yang dapat menyesatkan pemilih. Pengguna juga membuat dan membagikan gambar penggunaan narkoba, tindakan kekerasan, dan konten seksual. Hal ini menimbulkan kekhawatiran tentang potensi AI untuk menyebarkan informasi palsu, terutama selama pemilihan presiden AS. Sementara banyak perusahaan AI terkemuka telah menerapkan langkah-langkah untuk mencegah penyalahgunaan alat generasi gambar AI mereka, jelas bahwa langkah-langkah penegakan terkadang dapat dihindari.

Beberapa platform media sosial juga telah mengambil langkah untuk memberi label pada konten yang dihasilkan AI. Tidak jelas apakah X memiliki kebijakan terhadap Grok dalam menghasilkan gambar menyesatkan dari kandidat politik. Platform ini memang memiliki kebijakan terhadap berbagi media sintetis atau yang dimanipulasi yang dapat menipu atau membahayakan orang, tetapi penegakan kebijakan ini tidak jelas. Peluncuran alat gambar Grok bersamaan dengan kritik terhadap Musk karena menyebarkan klaim palsu di X terkait pemilihan dan menjamu Trump untuk percakapan yang tidak diberi tantangan. Alat generasi gambar AI lainnya juga menghadapi reaksi karena masalah seperti menghasilkan gambar tidak akurat secara historis atau memungkinkan pembuatan video informasi yang salah. Meskipun Grok memiliki beberapa batasan, seperti tidak menghasilkan konten eksplisit, pelaksanaan batasan terhadap stereotip berbahaya dan ujaran kebencian tampaknya tidak konsisten.