Instagram, gerçek modellerden ve yetişkin içerik oluşturuculardan videolar çalan AI tarafından üretilmiş influencerların artışıyla karşı karşıya. Bu AI alterler, çalınan içerikleri kullanarak AI tarafından oluşturulmuş yüzleri uyguluyor ve çeşitli sitelere ve uygulamalara yönlendiren bağlantılar ile para kazanıyor. İlk olarak Nisan ayında 404 Media tarafından bildirilen sorun, hızla büyüyerek platformdaki insan yaratıcılar için tehdit oluşturuyor ve geçimlerini sağlama yeteneklerini kısıtlıyor. Araştırmamız, popüler uygulama mağazalarında barındırılan bazıları dahil olmak üzere kolayca erişilebilen AI araçları ve uygulamalar kullanılarak oluşturulmuş 1, 000'den fazla AI influencer hesabı buldu. Bu fenomen, sosyal medyada AI tarafından üretilmiş içeriğin insan katkılarını gölgede bırakabileceği bir geleceği işaret edebilir. Bu hesapların yaratıcıları, Discord gibi platformlarda AI modelleri oluşturma ve kâr etme stratejilerini açıkça tartışıyor. Yetişkin içerik üreticisi Elaina St James, izleyici sayısındaki önemli düşüşleri kısmen AI kopyalarının artışına bağlıyor. Güvenlik uzmanı Alexios Mantzarlis, Instagram’ın platformu kazımasını kısıtlamadığı takdirde daha fazlasını bulabileceğine inanarak yaklaşık 900 böyle hesap derledi. AI hesapları, bazıları deepfake kullananlar, genellikle yapay doğalarını açıklamaz ve izleyiciyi yanıltarak gerçek insanların benzerlikleriyle para kazanır.

Örneğin, "Chloe Johnson" hesabı, gerçek modellerden çalınmış yüz değiştirilmiş görüntülerle takipçi topladı. Bu tür birçok hesap, OnlyFans’a rakip olan Fanvue gibi platformlarda para kazanmayı öneriyor. "Instagram Mastery" ve "AI Influencer Accelerator" gibi kılavuzlar, insanlara bu AI influencerları nasıl oluşturup kâr edebileceklerini, bunu "yalnızlık pazarına" dokunan bir iş olarak çerçeveleyerek öğretiyor. Bazı AI hesaplarının, örneğin "Emily Pellegrini", insan yaratıcıların yüzleştiği sınırlamaların üstesinden gelerek anonim bir AI influencer olmanın kârlılığını gösteriyor. Deepfake karşıtı olmasına rağmen, bazı AI influencer grupları, ünlülerin özelliklerini yeniden yaratmak veya gerçek insanları AI modellerine karıştırmak gibi tartışmalı stratejiler kullanıyor. Sektör, HelloFace gibi uygulamalar AI deepfake'lerin kolayca oluşturulmasını sağlayarak uygulanabilir oluyor. Instagram, bu hesaplara karşı harekete geçmemekle eleştiriliyor, bu da sahtekârlarla mücadele eden gerçek yaratıcıları etkiliyor. Platformun politikaları, sahte hesapları bildirmek geri tepebileceğinden ve gerçek hesaplarının yasaklanmasına neden olabileceğinden, genellikle yetişkin içerik üreticilerini savunmasız bırakıyor. Instagram'ın bu hesapların getirdiği etkileşimden fayda sağlaması nedeniyle daha fazla inceleme gerekli, potansiyel olarak trafiği otantikliğin üzerinde önceliklendiriyor olabilir. Uzmanlar, müdahale olmadan trend devam ederse gerçek hesapların azınlık haline gelebileceğinden endişe ediyor.