Het probleem waar we mee te maken hebben is aanzienlijk. Virtuele Rampspoed: De Opkomst van AI-gegenereerde Modellen Volgens 404 Media worden individuen achter het concept van "virtuele influencers" nu nepgezichten op echte modellen en sekswerkers geplaatst om anderen op sociale media te misleiden. Deze verontrustende ontwikkeling vindt plaats binnen de groeiende industrie van AI-gegenereerde modellen, die bekendheid hebben verworven op platforms zoals Instagram en TikTok. Veel van deze accounts promoten betaalde abonnementen via links naar concurrenten van OnlyFans. Ongetwijfeld een lucratieve trend, onthulde een Spaans bureau genaamd The Clueless in november dat hun AI-model genaamd Aitana, een 25-jarig AI-personage met roze haar uit Barcelona, maandelijks tot wel $11. 000 aan inkomsten genereerde. Gezichtsverwisseling: Het Deepfake Dilemma Zoals vorig jaar benadrukt door Futurism, hebben berichten van sommige van deze influencers tienduizenden reacties en duizenden likes gekregen. De situatie wordt pas echt problematisch wanneer makers deepfake-technologie beginnen te gebruiken om de gezichten van AI-gegenereerde modellen op echte vrouwenlichamen te plaatsen. 404 Media stuitte onlangs op een account genaamd "Adrianna Avellino" dat volledig uit AI-gegenereerde inhoud bestond en video's van echte vrouwen met het gezicht van het AI-gegenereerde model naadloos geïntegreerd met behulp van deepfake-technieken. De methodologie achter deze technologie is relatief bekend. 404 Media ontdekte verschillende informatieve video's waarin het proces wordt uitgelegd om het gezicht van een AI-influencer over echte beelden te leggen.

Bovendien is de populariteit van "face-swap" apps explosief gestegen, waardoor gebruikers met gemak deepfakes kunnen maken met alleen hun smartphones. De Strijd om Etiketten Nadat ze door 404 Media waren gecontacteerd en gewaarschuwd voor de aanwezigheid van bekende AI-gegenereerde modellen met honderdduizenden Instagram-volgers, heeft Meta prompt hun accounts verwijderd. Meta heeft aangegeven dat ze van plan zijn om vanaf volgende maand labels voor AI-gegenereerde inhoud te introduceren, maar deze taak zal monumentaal zijn gezien de overweldigende stroom van AI-influencers die hun platforms overspoelen. Bovendien kan het onderscheiden van wat echt is en wat een deepfake is, vooral wanneer echte vrouwen betrokken zijn, een aanzienlijke technische uitdaging blijken te zijn. Samenvattend verstoort deze alarmerende trend niet alleen de realiteit, maar stelt het ook makers in staat om rechtstreeks te profiteren van de inspanningen van influencers in de echte wereld. Het wordt daarom nog urgenter voor platforms zoals Instagram om nieuwe wegen te verkennen om dit probleem aan te pakken. Voor meer informatie over AI-influencers, lees over de persoon die AI gebruikt om zich voor te doen als een weelderige influencer.