Kwestia udostępniania na platformach społecznościowych syntetycznych obrazów generowanych przez AI bez odpowiednich oznaczeń wzbudza obawy wśród badaczy informacji. Wiele z tych obrazów krąży bez wskazania, że są generowane przez AI, pomimo wymogu Meta dotyczącego oznaczania takich treści. Brak przejrzystości sprawia, że użytkownicy, zwłaszcza ci starsi, dają się nabrać na sfabrykowane treści. Na niektórych stronach na Facebooku, które udostępniają te obrazy AI, znaleziono również kradzione tożsamości innych osób lub organizacji. Motywacją tych stron spamujących AI jest niejasny, jednak spekuluje się o potencjalnych działaniach oszustwa.

Fenomen treści generowanych przez AI ułatwia tworzenie sensacyjnych wizualnie obrazów przyciągających uwagę osób spamujących i oszustów. Strony te często wykorzystują fałszywych obserwujących i angażują się w interakcje z prawdziwymi użytkownikami, czasami próbując uzyskać osobiste informacje lub sprzedawać fałszywe produkty. Użytkownicy zgłaszają również podejrzane konta próbujące nawiązać znajomość i zostawiające skryptowane komentarze pod obrazami wygenerowanymi przez AI. Wzrost obecności tych obrazów AI w mediach społecznościowych budzi obawy o potencjalne oszustwa i podkreśla potrzebę lepszych metod wykrywania i oznaczania przez platformy takie jak Facebook.