Die vorliegende Angelegenheit ist eine bedeutende. Virtuelle Verderbnis: Der Aufstieg von KI-generierten Modellen Laut 404 Media setzen diejenigen, die hinter dem Konzept der "virtuellen Influencer" stehen, nun gefälschte Gesichter auf die Körper echter Models und Sexarbeiter, um andere in sozialen Medien zu täuschen. Diese besorgniserregende Entwicklung findet in der expandierenden Branche der KI-generierten Modelle statt, die auf Plattformen wie Instagram und TikTok an Beliebtheit gewonnen haben. Viele dieser Accounts bewerben kostenpflichtige Abonnements über Links zu OnlyFans-Konkurrenten. Zweifellos ein lukrativer Trend: Eine spanische Agentur namens The Clueless gab im November bekannt, dass ihr KI-Modell namens Aitana, ein 25-jähriger KI-Charakter mit pinkem Haar aus Barcelona, monatliche Einnahmen von bis zu 11. 000 US-Dollar generierte. Face/Off: Das Deepfake-Dilemma Wie Futurism im letzten Jahr betonte, haben Beiträge einiger dieser Influencer Zehntausende Kommentare und Tausende Likes angezogen. Die Situation wird wirklich problematisch, wenn Ersteller beginnen, Deepfake-Technologie zu verwenden, um die Gesichter von KI-generierten Modellen auf die Körper realer Frauen zu transplantieren. 404 Media stieß kürzlich auf einen Account namens "Adrianna Avellino", der ausschließlich KI-generierten Inhalt und Videos von realen Frauen hochgeladen hatte, deren Gesicht nahtlos in das des KI-generierten Modells integriert wurde, und zwar mithilfe von Deepfake-Techniken. Die Methodik dieser Technologie ist relativ gut bekannt. 404 Media entdeckte mehrere informative Videos, die den Prozess der Überlagerung des Gesichts eines KI-Influencers auf echtes Filmmaterial erläutern.

Darüber hinaus ist die Beliebtheit von "Face-Swap"-Apps explodiert, die es Benutzern ermöglichen, mit Leichtigkeit Deepfakes zu erstellen, und das nur mit ihren Smartphones. Der Kampf um Kennzeichnungen Nachdem 404 Media kontaktiert wurde und auf hochkarätige KI-generierte Models mit Hunderttausenden von Instagram-Followern hingewiesen hatte, löschte Meta prompt deren Accounts. Meta hat angekündigt, dass es ab dem nächsten Monat Kennzeichnungen für KI-generierten Inhalt einführen werde. Doch diese Aufgabe wird monumental sein, angesichts der überwältigenden Flut von KI-Influencern, die ihre Plattformen überfluten. Zudem dürfte es sich als erhebliche technische Herausforderung erweisen, zwischen dem, was real ist und was ein Deepfake ist, insbesondere wenn echte Frauen betroffen sind. Zusammenfassend verzerrt dieser alarmierende Trend nicht nur die Realität, sondern ermöglicht es Erstellern auch, direkt von den Bemühungen realer Influencer zu profitieren. Infolgedessen wird es umso dringlicher, dass Plattformen wie Instagram neue Wege erkunden, um diesem Problem entgegenzutreten. Für weitere Informationen über KI-Influencer lesen Sie den Artikel über die Person, die KI einsetzt, um als üppiger Influencer aufzutreten.