Instagram stendur frammi fyrir aukningu í áhrifavöldum sem eru búnir til með gervigreind og stela myndböndum frá raunverulegum fyrirsætum og fullorðinsefnishöfundum. Þessar gervigreindarskynverur nota stolna efnið, laga andlit sem eru búin til með gervigreind, og skapa tekjur í gegnum tengla á ýmsar síður og öpp. Þetta mál var fyrst greint af 404 Media í apríl, en það hefur vaxið hratt og ógnar nú mannlegum höfundi á pallinum, sem nú eiga erfitt með að hafa lífsviðurværi. Rannsókn okkar fann meira en 1. 000 reikninga gervihnattar áhrifavalds, sem voru búnir til með auðveltum gervigreindarverkfærum og öppum, sem sum eru í boði í vinsælum smáforritaverslunum. Þetta fyrirbæri gefur til kynna hugsanlega framtíð þar sem gervigreindarinnihald gæti skyggt á mannleg framlag á samfélagsmiðlum. Höfundar þessara reikninga ræða opinberlega um aðferðir til að búa til og skapa tekjur af gervigreindarmódelum á vettvöngum eins og Discord. Elaina St James, fullorðinsefnishöfundur, greinir frá verulegum samdrætti í áhorfi, sem hún telur hluta til vegna aukningar stolinna gervigreindarmyndbanda. Öryggissérfræðingurinn Alexios Mantzarlis tók saman um 900 slíkra reikninga og telur að hann gæti fundið mun fleiri ef Instagram hefði ekki takmarkað aðgang hans að skrapa pallinn. Þessir reikningar gervigreindar, þar á meðal sumir sem nota djúpsкамиесjón, gera oft ekki grein fyrir gervilegum eðli sínu, blekkja áhorfendur og skapa tekjur af líkingum raunverulegra einstaklinga.

Til dæmis safnaði reikningurinn "Chloe Johnson" fylgjendum með efni sem notaði skiptimyndir stolnar frá raunverulegum fyrirsætum. Margir slíkra reikninga stinga upp á tekjuöflun á pöllum eins og Fanvue, samkeppnisaðili við OnlyFans. Leiðbeiningar eins og "Instagram Mastery" og "AI Influencer Accelerator" kenna fólki hvernig á að skapa og hafa tekjur af þessum gervigreindar áhrifavöldum, og setur það fram sem viðskipti sem skipta í "einhverfismarkaðinn. " Velgengni sumra gervigreindarreikninga, eins og "Emily Pellegrini, " sýnir arðsemi þess að vera nafnlaus gervigreindar áhrifavaldur, sem sigrast á mannlegum takmörkunum sem raunverulegir höfundar standa frammi fyrir. Þrátt fyrir að vera andsnúnir djúpsкамиесjón, nota viss gervigreindar áhrifahópar samt vafasamar aðferðir, svo sem að endurgera eiginleika fræga fólksins eða blanda raunverulegum einstaklingum inn í gervigreindarmódel. Greinin blómstrar á verkfærum sem eru í boði í smáforritaverslunum og töflureiknivélum úr PDF og myndskeiðshandbókum. Öpp eins og HelloFace auðvelda sköpun gervigreindar djúpsкамиесjón. Instagram hefur verið gagnrýnt fyrir að bregðast ekki við þessum reikningum, sem áhrifar raunverulega höfunda sem eiga erfitt með falsara. Stefna pallsins skilur oft fullorðins sköpunar verulega viðkvæm, þar sem skýrslugerð um persónugervi getur haft öfug áhrif, sem veldur því að raunverulegar reikningar þeirra eru bannaðar. Ytterligere granskning er nauðsynleg, þar sem Instagram hagnast af auknum þátttöku sem þessir reikningar skapa, hugsanlega að forgangsraða umferð fram yfir áreiðanleika. Sumir sérfræðingar hafa áhyggjur af því að raunverulegir reikningar gætu orðið minnihluti ef þróunin heldur áfram án íhlutunar.