Under sin smekmånad upptäckte sociala medier-influencern Michel Janse att hon hade blivit klonad. Bedragare hade använt hennes likhet och AI-teknologi för att skapa en deepfake-video som marknadsförde potensförbättrande kosttillskott. Detta incident belyser den växande trenden att använda stulna identiteter, inklusive kändisars och personer med en blygsam närvaro på sociala medier, för att annonsera för stötande produkter. Användningen av AI-verktyg gör det lättare för bedragare att manipulera ljud- och videomaterial, vilket skapar realistiska och trovärdiga deepfakes.

Denna form av identitetsstöld är svår att förebygga och har särskilt riktat sig mot kvinnor. Strafverkställande myndigheter står inför utmaningar när det gäller att hantera denna typ av cyberbrott på grund av begränsade resurser och rättsliga frågor. Plattformar som YouTube arbetar med policys för att ta bort deepfake-innehåll, men offer med färre resurser finner det utmanande att spåra förövarna.