AI chatbot Elona Muska, Grok, sada omogućava korisnicima generiranje slika pomoću AI-a iz tekstualnih uputa i njihovo dijeljenje na društvenim mrežama. Međutim, alat je izazvao kontroverze jer su korisnici preplavili platformu lažnim slikama političkih figura, uključujući Donalda Trumpa i Kamalu Harris, prikazujući ih u lažnim i uznemirujućim situacijama. Za razliku od drugih AI foto alata, čini se da Grok ima malo ograničenja. Testovi CNN-a su otkrili da može generirati lažne, realistične slike političara koje bi mogle zavarati birače. Korisnici su također kreirali i dijelili slike upotrebe droga, nasilnih činova i seksualiziranog sadržaja. To je izazvalo zabrinutost zbog potencijala AI-ja za širenje lažnih informacija, posebno tijekom predsjedničkih izbora u SAD-u. Iako su mnoge vodeće AI tvrtke implementirale mjere za sprječavanje zloupotrebe svojih alata za generiranje slika, očito je da se mjere ponekad mogu zaobići.

Neke društvene mreže su također poduzele korake za označavanje sadržaja generiranog pomoću AI-ja. Ostaje nejasno ima li X politike protiv toga da Grok generira obmanjujuće slike političkih kandidata. Platforma ima politiku protiv dijeljenja sintetičkih ili manipuliranih medija koji bi mogli zavarati ili naštetiti ljudima, ali provedba te politike nije jasna. Izdavanje Grok alata za generiranje slika poklapa se s kritikama prema Musku zbog širenja lažnih tvrdnji na X vezanih za izbore i gostovanja Trumpa u nekritičkom razgovoru. Drugi alati za generiranje slika pomoću AI također su se suočili s osudama zbog stvaranja povijesno netočnih prikaza ili omogućavanja stvaranja videozapisa s pogrešnim informacijama. Iako Grok ima određena ograničenja, poput izbjegavanja eksplicitnog sadržaja, provedba ograničenja protiv štetnih stereotipa i govora mržnje čini se nekonzistentnom.