Instagram står overfor en bølge av AI-genererte influencere som stjeler videoer fra ekte modeller og innholdsskapere for voksne. Disse AI-alter-egoene bruker det stjålne innholdet, bruker AI-genererte ansikter og tjener penger gjennom lenker til ulike nettsteder og apper. Til tross for at dette først ble rapportert av 404 Media i april, har problemet vokst raskt og truer menneskelige skapere på plattformen, som opplever at deres evne til å forsørge seg selv blir kompromittert. Vår undersøkelse avdekket over 1, 000 AI-influencer-kontoer, laget med lett tilgjengelige AI-verktøy og apper, noen hostet på populære app-butikker. Dette fenomenet indikerer en potensiell fremtid hvor AI-generert innhold kan overskygge menneskelige bidrag på sosiale medier. Skaperne av disse kontoene diskuterer åpent strategier for å lage og tjene penger på AI-modeller på plattformer som Discord. Elaina St James, en skaper av voksent innhold, rapporterer om betydelige fall i seertall, og tilskriver dette delvis til økningen av AI-etterligninger. Sikkerhetsekspert Alexios Mantzarlis har samlet omtrent 900 slike kontoer, og mener han kunne ha funnet mange flere hvis Instagram ikke hadde begrenset hans tilgang til å skrape plattformen. Disse AI-kontoene, inkludert noen som bruker deepfakes, avslører ofte ikke sin kunstige natur, og villedende publikum ved å tjene penger på ekte menneskers likheter.

For eksempel har kontoen "Chloe Johnson" samlet følgere med innhold ved å bruke ansiktsbyttede bilder stjålet fra ekte modeller. Mange slike kontoer foreslår inntjening på plattformer som Fanvue, en konkurrent til OnlyFans. Guider som "Instagram Mastery" og "AI Influencer Accelerator" lærer folk hvordan de kan skape og tjene på disse AI-influencerne, og rammer det inn som en virksomhet som utnytter "ensomhetsmarkedet. " Suksessen til noen AI-kontoer, som "Emily Pellegrini, " viser hvor lønnsomt det kan være å være en anonym AI-influencer, som overvinner de menneskelige begrensningene som ekte skapere står overfor. Til tross for å være anti-deepfake, benytter enkelte AI-influencer-grupper fortsatt tvilsomme strategier, som å gjenskape attributter til kjendiser eller blande ekte mennesker inn i AI-modeller. Industrien blomstrer på verktøy tilgjengelige i app-butikker og regneark fra PDF- og videoguides. Apper som HelloFace muliggjør enkel opprettelse av AI-deepfakes. Instagram har blitt kritisert for å unnlate å handle mot disse kontoene, noe som påvirker ekte skapere som sliter med etterlignere. Plattformens retningslinjer etterlater ofte innholdsskapere for voksne sårbare, ettersom rapportering av etterlignere kan slå tilbake og forårsake at deres legitime kontoer blir stengt. Videre gransking er nødvendig, ettersom Instagram drar nytte av den økte engasjementet disse kontoene bringer, potensielt med prioritering av trafikk over autentisitet. Enkelte eksperter frykter at ekte kontoer kan bli et mindretall hvis trenden fortsetter uten inngripen.