La question des images synthétiques générées par IA partagées sur les plateformes sociales sans une étiquetage adéquat suscite des inquiétudes parmi les chercheurs en information. Beaucoup de ces images circulent sans indiquer qu'elles sont générées par IA, malgré l'exigence de Meta concernant un tel étiquetage. Ce manque de transparence a conduit à ce que les utilisateurs, en particulier les plus âgés, tombent dans le piège de contenus falsifiés. Certaines pages Facebook partageant ces images d'IA se sont également avérées avoir volé des identités d'autres personnes ou organisations. La motivation derrière ces pages de spam d'IA est floue, mais des spéculations sur d'éventuelles opérations d'escroquerie ont été avancées.

Le phénomène des contenus générés par IA facilite la création d'images visuellement sensationnelles pour attirer l'engagement des spams et des escrocs. Ces pages utilisent souvent des abonnés inauthentiques et interagissent avec de vrais utilisateurs, cherchant parfois des informations personnelles ou vendant de faux produits. Des utilisateurs ont également signalé des comptes suspects cherchant à devenir amis avec eux et laissant des commentaires prédéfinis sur les images générées par IA. La présence croissante de ces images d'IA sur les médias sociaux suscite des craintes quant aux éventuelles escroqueries et met en évidence le besoin de meilleures méthodes de détection et d'étiquetage de la part de plateformes comme Facebook.