Elon Musk'un yapay zeka sohbet botu Grok, artık kullanıcılara metin komutlarından yapay zeka tarafından üretilen görüntüler oluşturma ve sosyal medyada paylaşma imkanı veriyor. Ancak, ara, Donald Trump ve Kamala Harris gibi siyasi figürlerin sahte ve rahatsız edici durumlarda tasvir edildiği sahte görüntülerle doldurulduğu için tartışmalara yol açtı. Diğer yapay zeka fotoğraf araçlarının aksine, Grok'un sınırlamaları oldukça az görünüyor. CNN testlerinde, seçmenleri yanıltabilecek sahte, gerçekçi politikacı görüntüleri oluşturabileceği ortaya çıktı. Kullanıcılar ayrıca uyuşturucu kullanımı, şiddet eylemleri ve cinsel içerikli içeriklerin görüntülerini oluşturup paylaştı. Bu durum, yapay zekanın yanlış bilgi yayma potansiyeli konusunda endişe yarattı, özellikle ABD başkanlık seçimlerinde. Pek çok önde gelen yapay zeka şirketi, yapay zeka görüntü oluşturma araçlarının kötüye kullanılmasını önlemek için önlemler almış olsa da, bu önlemlerin bazen aşılabileceği açıkça görülüyor.

Bazı sosyal medya platformları da yapay zeka tarafından oluşturulan içerikleri etiketlemek için adımlar attı. Grok'un siyasi adayların yanıltıcı görüntülerini oluşturmasına karşı X'in politikalarının olup olmadığı belirsiz. Platformun, insanları yanıltabilecek veya zarar verebilecek sentetik veya manipüle edilmiş medyanın paylaşılmasına karşı bir politikası var, ancak bu politikanın uygulanması açık değil. Grok görüntü aracının piyasaya sürülmesi, Musk'a yönelik seçimle ilgili yanlış iddiaları yayması ve Trump'ı sorgusuz bir sohbette ağırlamasıyla ilgili eleştirilerle aynı zamana denk geliyor. Diğer yapay zeka görüntü oluşturma araçları, tarihsel olarak yanlış betimlemeler üretmek veya yanlış bilgi videolarının oluşturulmasına olanak sağlamak gibi sorunlar nedeniyle tepkiyle karşılaştı. Grok'un müstehcen içerik oluşturmama gibi bazı sınırlamaları olsa da, zararlı stereotipler ve nefret söylemine karşı sınırlamaların tutarsız bir şekilde uygulandığı görülüyor.