Instagram est confronté à une montée d'influenceurs générés par l'IA qui volent des vidéos de vrais modèles et créateurs de contenu pour adultes. Ces alters IA utilisent le contenu volé, appliquent des visages générés par l'IA et monétisent via des liens vers divers sites et applications. Bien que d'abord signalé par 404 Media en avril, le problème a rapidement pris de l'ampleur, menaçant les créateurs humains sur la plateforme, qui voient leur capacité à gagner leur vie compromise. Notre enquête a trouvé plus de 1 000 comptes d'influenceurs IA, créés à l'aide d'outils et applications IA facilement disponibles, certains hébergés sur des magasins d'applications populaires. Ce phénomène indique un avenir potentiel où le contenu généré par l'IA pourrait éclipser les contributions humaines sur les réseaux sociaux. Les créateurs de ces comptes discutent ouvertement de stratégies pour créer et profiter des modèles IA sur des plateformes comme Discord. Elaina St James, créatrice de contenu pour adultes, rapporte des baisses significatives de l'audience, attribuant cela en partie à la montée en puissance des imitations IA. L'expert en sécurité Alexios Mantzarlis a compilé environ 900 de ces comptes, estimant qu'il pourrait en trouver beaucoup plus si Instagram ne lui avait pas restreint l'accès à l'extraction de la plateforme. Ces comptes IA, dont certains utilisent des deepfakes, ne dévoilent souvent pas leur nature artificielle, trompant le public et monétisant l'image de personnes réelles. Par exemple, le compte "Chloe Johnson" a accumulé des abonnés avec du contenu utilisant des images échangées avec des visages volés à de vrais modèles.

Nombre de ces comptes suggèrent une monétisation sur des plateformes comme Fanvue, un concurrent d'OnlyFans. Des guides comme "Instagram Mastery" et "AI Influencer Accelerator" apprennent aux gens comment créer et tirer profit de ces influenceurs IA, le présentant comme une activité exploitant le "marché de la solitude". Le succès de certains comptes IA, comme "Emily Pellegrini", montre la rentabilité d’être un influenceur IA anonyme, dépassant les limitations humaines auxquelles font face les créateurs réels. Malgré leur opposition aux deepfakes, certains groupes d'influenceurs IA utilisent encore des stratégies discutables, comme recréer les attributs de célébrités ou mélanger des humains réels dans des modèles IA. L'industrie prospère grâce à des outils disponibles dans les magasins d'applications et des tableurs provenant de guides PDF et vidéo. Des applications comme HelloFace facilitent la création rapide de deepfakes IA. Instagram a été critiqué pour son inaction face à ces comptes, ce qui affecte les créateurs authentiques qui luttent contre les imposteurs. Les politiques de la plateforme laissent souvent les créateurs de contenu pour adultes vulnérables, car signaler des imitateurs peut se retourner contre eux et entraîner la suspension de leurs comptes légitimes. Un examen plus approfondi est nécessaire, car Instagram bénéficie de l'augmentation de l'engagement que ces comptes apportent, privilégiant potentiellement le trafic plutôt que l'authenticité. Certains experts s'inquiètent que les comptes authentiques puissent devenir minoritaires si cette tendance se poursuit sans intervention.