Rafræni spjallþjónn Elon Musk, Grok, leyfir nú notendum að búa til myndir af textaspurningum sem gervigreind hefur búið til og deila þeim á samfélagsmiðlum. Hins vegar hefur verkfærið mætt gagnrýni þar sem notendur hafa flætt vettvanginn með fölsuðum myndum af pólitískum þekktum aðilum, þar á meðal Donald Trump og Kamala Harris, sem sýna þá í fölskum og óhugnanlegum aðstæðum. Ólíkt öðrum myndverktækjum gervigreindar, virðist Grok hafa mínimal takmarkanir í staðnum. Prófanir CNN sýndu að það gat búið til fölsuð, raunveruleg myndskeið af stjórnmálamönnum sem gætu verið villandi fyrir kjósendur. Notendur bjuggu líka til og deildu myndum af eiturlyfjaneyslu, ofbeldisverkum og kynferðislegu efni. Þetta hefur vakið áhyggjur af möguleikum gervigreindar til að dreifa fölskum upplýsingum, sérstaklega á meðan forsetakosningum í Bandaríkjunum stendur. Margar fremstu gervigreinda fyrirtæki hafa sett saman aðgerðir til að koma í veg fyrir misnotkun á myndverktækjum þeirra, þó sýni að eftirlitsaðgerðir geta stundum verið sveigðar.

Sum samfélagsmiðlapallar hafa líka tekið skref til að merkja gervigreindargrunað efni. Það er óljóst hvort X hefur reglur gegn því að Grok búi til villandi myndir af pólitískum frambjóðendum. Vettvangurinn hefur stefnu gegn því að deila tilbúnu eða breyttu efni sem gæti blekkt eða skaðað fólk, en eftirfylgni þessarar stefnu er óljós. Útgáfan af Grok myndverkfærinu fellur saman við gagnrýni á Musk fyrir að dreifa fölskum fullyrðingum á X tengdum kosningunum og hýsa Trump fyrir óáskoruð samtöl. Önnur myndverktæki gervigreindar hafa staðið frammi fyrir bakslagi vegna mála eins og að framleiða sögulega ónákvæma mynda eða gera myndbandskaffi mögulegt. Þrátt fyrir að Grok hafi nokkrar takmarkanir, eins og að forðast skýrt efni, virðist framkvæmdin á takmörkunum gegn skaðlegum staðalímyndum og hatursorðræðu óstöðug.