Instagram стикається з хвилею впливових особистостей, створених за допомогою ШІ, які крадуть відео у справжніх моделей та творців контенту для дорослих. Ці ШІ-альтера використовують викрадений контент, застосовують обличчя, згенеровані ШІ, та заробляють за допомогою посилань на різні сайти та додатки. Попри те, що вперше про це повідомила 404 Media у квітні, проблема швидко зросла, становлячи загрозу для творців-професіоналів на платформі, які втрачають можливість заробляти на життя. Наше розслідування виявило більше 1, 000 акаунтів впливових осіб, створених за допомогою ШІ, з використанням доступних інструментів та додатків ШІ, деякі з яких розміщені на популярних платформах додатків. Це явище вказує на потенційне майбутнє, де згенерований за допомогою ШІ контент може затьмарити людські внески в соціальних мережах. Творці цих акаунтів відкрито обговорюють стратегії створення та заробітку на моделях ШІ на платформах, як-от Discord. Елейна Сент Джеймс, творець контенту для дорослих, повідомляє про значне падіння переглядів, частково пояснюючи це зростанням кількості ШІ-копій. Експерт з безпеки Алексіос Манцарліс зібрав близько 900 таких акаунтів, вважаючи, що міг би знайти ще більше, якби Instagram не обмежив його доступ до платформи. Ці ШІ-акаунти, включаючи деякі, що використовують дипфейки, часто не розкривають свою штучну природу, вводячи аудиторію в оману та монетизуючи зовнішність реальних людей. Наприклад, акаунт "Хлоя Джонсон" зібрав підписників за допомогою контенту із заміненими обличчями, викраденого у справжніх моделей.

Багато з таких акаунтів пропонують монетизацію на платформах, як-от Fanvue, конкуренті OnlyFans. Посібники, як-от "Instagram Mastery" та "AI Influencer Accelerator, " навчають людей створювати та заробляти на цих ШІ-впливових особах, позиціонуючи це як бізнес, що орієнтується на "ринок самотності". Успіх деяких ШІ-акаунтів, як-от "Емілі Пеллегріні, " демонструє прибутковість анонімного впливовця ШІ, що долає людські обмеження, з якими стикаються справжні творці. Попри антидипфейкову позицію, деякі групи ШІ-впливових осіб досі використовують сумнівні стратегії, такі як відтворення характеристик знаменитостей або змішування реальних людей у ШІ-моделях. Індустрія процвітає завдяки інструментам, доступним у магазинах додатків та таблицях з PDF- та відеогідами. Додатки, як-от HelloFace, полегшують створення ШІ-дипфейків. Instagram критикують за нездатність вжити заходів проти цих акаунтів, що впливають на справжніх творців, які борються з імпосторами. Політика платформи часто залишає творців контенту для дорослих уразливими, оскільки повідомлення про імітаторів може призвести до блокування їх справжніх акаунтів. Необхідний подальший аналіз, оскільки Instagram отримує вигоду від збільшення залученості, яке приносять ці акаунти, ймовірно, надаючи пріоритет трафіку над автентичністю. Деякі експерти побоюються, що справжні акаунти можуть опинитися в меншості, якщо ця тенденція продовжиться без втручання.