Het probleem van synthetische AI-gegenereerde beelden die op sociale platforms worden gedeeld zonder correcte labeling, heeft bezorgdheid gewekt onder onderzoekers van informatie. Veel van deze beelden circuleren zonder aan te geven dat ze AI-gegenereerd zijn, ondanks de vereiste van Meta voor dergelijke labeling. Deze gebrek aan transparantie heeft ertoe geleid dat gebruikers, met name oudere gebruikers, vallen voor vervalste inhoud. Sommige Facebook-pagina's die deze AI-beelden delen, hebben ook gestolen identiteiten van andere individuen of organisaties. Het motief achter deze AI-spampagina's is onduidelijk, maar er zijn speculaties over mogelijke oplichtingspraktijken.

Het fenomeen van AI-gegenereerde inhoud heeft het voor spammers en oplichters gemakkelijker gemaakt om visueel sensationele beelden te creëren om betrokkenheid te genereren. Deze pagina's maken vaak gebruik van onauthentieke volgers en gaan interactie aan met echte gebruikers, soms op zoek naar persoonlijke informatie of het verkopen van valse producten. Gebruikers hebben ook verdachte accounts gemeld die contact met hen opnemen om vriendschap te sluiten en voorgeprogrammeerde opmerkingen achterlaten bij AI-gegenereerde beelden. De toenemende aanwezigheid van deze AI-beelden op sociale media zorgt voor bezorgdheid over mogelijke oplichtingspraktijken en benadrukt de behoefte aan betere detectie- en labelingmethoden door platforms zoals Facebook.