Bilgi araştırmacıları arasında, uygun etiketleme olmaksızın sosyal platformlarda paylaşılan sentetik yapay zeka tarafından üretilen görüntüler konusu endişe yaratmıştır. Bu görüntülerin birçoğu, Meta'nın böyle bir etiketlemeyi gerektirdiği halde, yapay zeka tarafından üretildiğini belirtmeden dolaşıyor. Bu şeffaflık eksikliği, özellikle yaşlı kullanıcıların yanıltıcı içeriklere düşmesine neden olmuştur. Bu yapay zeka görüntülerini paylaşan bazı Facebook sayfalarının, diğer bireylerin veya kuruluşların kimliklerini çaldığı da tespit edilmiştir. Bu yapay zeka spam sayfalarının amacı belirsizdir, ancak potansiyel dolandırıcılık operasyonları spekülasyonları bulunmaktadır.

Yapay zeka tarafından üretilen içerik fenomeni, spam ve dolandırıcılık aktörlerinin etkileyici görseller oluşturmasını kolaylaştırmıştır. Bu sayfalar genellikle sahte takipçiler kullanır ve gerçek kullanıcılarla etkileşimde bulunur, bazen kişisel bilgi talep eder veya sahte ürünler satmaya çalışır. Kullanıcılar, şüpheli hesapların kendilerine arkadaşlık teklif ettiğini ve yapay zeka tarafından üretilen görüntüler üzerinde kurgusal yorumlar bıraktığını bildirmiştir. Sosyal medyada bu yapay zeka görüntülerinin artan varlığı, potansiyel dolandırıcılık endişelerini artırmakta ve Facebook gibi platformların daha iyi tespit ve etiketleme yöntemlerine ihtiyacı vurgulamaktadır.