Instagram se suočava s naglim porastom influencera generisanih AI-jem koji kradu videozapise stvarnih modela i kreatora sadržaja za odrasle. Ovi AI-alteri koriste ukradeni sadržaj, primjenjuju lica generisana AI-jem i zarađuju putem linkova na razne stranice i aplikacije. Iako je 404 Media prvi put izvijestio o ovom problemu u aprilu, on je brzo evoluirao, predstavljajući prijetnju stvarnim kreatorima na platformi, koji imaju poteškoća u zarađivanju za život. Naša istraga otkrila je više od 1. 000 AI naloga influencera, napravljenih korištenjem lako dostupnih AI alata i aplikacija, od kojih su neke dostupne na popularnim trgovinama aplikacija. Ovaj fenomen nagovještava potencijalnu budućnost gdje bi AI-generisani sadržaj mogao zasjeniti ljudske doprinose na društvenim mrežama. Kreatori ovih naloga otvoreno raspravljaju o strategijama za kreiranje i profitiranje od AI modela na platformama poput Discorda. Elaina St James, kreatorica sadržaja za odrasle, izvještava o značajnom padu gledanosti, djelomično pripisujući to porastu AI prevara. Sigurnosni stručnjak Alexios Mantzarlis sakupio je oko 900 ovakvih naloga, vjerujući da bi ih mogao naći još više da mu Instagram nije onemogućio pristup za pretraživanje platforme. Ovi AI nalozi, uključujući neke koji koriste deepfake tehnologiju, često ne otkrivaju svoju umjetnu prirodu, obmanjujući publiku i profitirajući na stvarnim ljudskim likovima.

Na primjer, nalog "Chloe Johnson" prikupio je pratioce koristeći zamijenjene slike lica ukradene od stvarnih modela. Mnogi takvi nalozi sugeriraju monetizaciju na platformama poput Fanvuea, konkurenta OnlyFans-a. Vodiči poput "Instagram Mastery" i "AI Influencer Accelerator" podučavaju ljude kako kreirati i profitirati od ovih AI influencera, predstavljajući to kao biznis koji cilja na "tržište usamljenosti. " Uspjeh nekih AI naloga, poput "Emily Pellegrini, " pokazuje profitabilnost anonimnog AI influencera koji nadilazi ljudska ograničenja s kojima se suočavaju stvarni kreatori. Iako su protiv deepfake-a, određene grupe AI influencera i dalje koriste upitne strategije, kao što su rekreiranje osobina slavnih ili miješanje stvarnih ljudi u AI modele. Industrija cvjeta na osnovu alata dostupnih u trgovinama aplikacija i priručnika iz PDF-ova i video vodiča. Aplikacije poput HelloFace olakšavaju jednostavno kreiranje AI deepfake-ova. Instagram je bio kritikovan zbog nedjelovanja protiv ovih naloga, što pogađa stvarne kreatore koji se bore protiv imitatore. Politike platforme često ostavljaju kreatore sadržaja za odrasle ranjivima, jer prijavljivanje imitatora može imati kontraefekat, uzrokujući da njihovi legitimni računi budu blokirani. Potrebna je dalja pažnja, jer Instagram ima koristi od povećanog angažmana koji ovi nalozi donose, potencijalno prioritizirajući promet nad autentičnošću. Neki stručnjaci zabrinuti su da bi stvarni nalozi mogli postati manjina ako se trend nastavi bez intervencije.