Die Problematik der Verbreitung von synthetischen, von KI generierten Bildern auf sozialen Plattformen ohne angemessene Kennzeichnung hat Bedenken bei Informationsforschern hervorgerufen. Viele dieser Bilder werden ohne den Hinweis darauf verbreitet, dass sie von KI generiert sind, obwohl Meta eine solche Kennzeichnung vorschreibt. Diese mangelnde Transparenz hat dazu geführt, dass Nutzer, insbesondere ältere Nutzer, gefälschte Inhalte für bare Münze nehmen. Einige Facebook-Seiten, die diese KI-Bilder teilen, haben zudem Identitäten von anderen Personen oder Organisationen gestohlen. Das Motiv hinter diesen KI-Spam-Seiten ist unklar, es gibt jedoch Spekulationen über potenzielle Betrugsaktionen.

Das Phänomen von KI-generierten Inhalten erleichtert es Spam- und Betrugsakteuren, visuell spektakuläre Bilder zu erstellen, um Engagement zu erzeugen. Diese Seiten nutzen häufig unechte Follower und interagieren mit echten Nutzern, manchmal um persönliche Informationen zu sammeln oder gefälschte Produkte zu verkaufen. Nutzer haben auch von verdächtigen Konten berichtet, die sich mit ihnen befreunden und vorab festgelegte Kommentare zu KI-generierten Bildern hinterlassen. Die zunehmende Präsenz dieser KI-Bilder in sozialen Medien wirft Bedenken hinsichtlich potenzieller Betrugsfälle auf und verdeutlicht die Notwendigkeit besserer Erkennungs- und Kennzeichnungsmethoden durch Plattformen wie Facebook.