AI-genererede billeder bliver stadig mere udbredte på sociale medieplatforme. Disse billeder grænser ofte til det surrealistiske og bruges til at lokke brugere til at engagere sig. Forskere fra Stanford Internet Observatory og Georgetown University's Center for Security and Emerging Technology undersøgte over 100 Facebook-sider, der postede store mængder AI-genereret indhold. Disse billeder tiltrækker brugere, og Facebooks anbefalingsalgoritme kan fremme disse opslag organisk. Svindlere og spammere udnytter AI-genereret indhold til at skabe engagerende opslag og dirigere brugere til reklamefyldte websteder.

Nogle svindlere har endda forbedret engagementet ved at poste AI-genererede billeder og kommentere med URL'er til deres ønskede indhold. Facebooks algoritme skubbede AI-genereret indhold til brugere, selv efter at de havde besøgt lignende sider. Facebook planlægger at begynde at mærke indhold, der pålideligt er detekteret som AI-genereret. Sociale medieplatforme står over for udfordringen med at behandle AI-genereret indhold og den potentielle nedgang i brugerengagement.