Spørgsmålet om syntetiske AI-genererede billeder, der deles på sociale platforme uden korrekt mærkning, har rejst bekymring blandt informationssøgere. Mange af disse billeder cirkulerer uden at angive, at de er AI-genererede, på trods af at Meta kræver sådan mærkning. Denne manglende gennemsigtighed har ført til, at brugere, især ældre brugere, falder for forfalsket indhold. Nogle Facebook-sider, der deler disse AI-billeder, er også blevet fundet med stjålne identiteter fra andre personer eller organisationer. Motivet bag disse AI-spam-sider er uklart, men der er spekulationer om potentielle svindeloperationer.

Fænomenet med AI-genereret indhold gør det nemmere for spam- og svindelaktører at skabe visuelt sensationelle billeder for at tiltrække engagement. Disse sider bruger ofte uægte følgere og interagerer med rigtige brugere, nogle gange med det formål at indhente personlige oplysninger eller sælge falske produkter. Brugere har også rapporteret om mistænkelige konti, der forsøger at blive venner med dem og efterlader scriptede kommentarer på AI-genererede billeder. Den stigende tilstedeværelse af disse AI-billeder på sociale medier vækker bekymring om potentielle svindelnumre og understreger behovet for bedre detektions- og mærkningsmetoder fra platforme som Facebook.