Frågan om syntetiska AI-genererade bilder som delas på sociala plattformar utan korrekt märkning har väckt oro bland informationsforskare. Många av dessa bilder sprids utan att ange att de är AI-genererade, trots att Meta kräver sådan märkning. Denna brist på transparens har lett till att användare, särskilt äldre, blivit lurade av förfalskat innehåll. Vissa Facebook-sidor som delar dessa AI-bilder har också visat sig ha stulna identiteter från andra personer eller organisationer. Motivet bakom dessa AI-spamsidor är oklart, men det spekuleras i potentiella bedrägerioperationer.

Fenomenet med AI-genererat innehåll har gjort det lättare för spam- och bedrägeriaktörer att skapa visuellt sensationella bilder för att locka engagemang. Dessa sidor använder ofta oäkta följare och interagerar med riktiga användare, ibland genom att söka personlig information eller sälja förfalskade produkter. Användare har även rapporterat misstänkta konton som försöker bli vänner och lämnar inläggade kommentarer på AI-genererade bilder. Den ökande närvaron av dessa AI-bilder på sociala medier väcker oro för potentiella bedrägerier och understryker behovet av bättre detektions- och märkningsmetoder av plattformar som Facebook.