WEST PALM BEACH, Fla. — En kvinna från West Palm Beach delar sin erfarenhet som en varning efter att ha undgått vad hon misstänker var ett försök till bilkapning som involverade AI-genererad videomaterial. SE NEDAN: 'I det ögonblicket såg det ut som en riktig video', säger Melanie Valentine till WPTV Experter varnar för AI-manipulation av videor efter ett incident där en man försökte locka en kvinna in i hans bil. Melanie Valentine berättade för WPTV att det var runt kl. 22. 00 den 17 oktober, när hon satt och hjälpte till att göra nycklar vid Home Depot på Palm Beach Lakes Boulevard i West Palm Beach, då en man i 20-årsåldern närmade sig henne och visade vad som verkade vara videobevis på någon som stal hennes makes lastbil på parkeringsplatsen. "Han sa, du måste följa efter mig. Du måste följa efter mig. Vi kan fånga honom. Vi kan fånga honom, " mindes Valentine. Även om videon såg mycket realistisk ut, litade Valentine på sin magkänsla och tackade nej till att följa främlingen ut. Istället ringde hon polisen, medan hennes granne gick för att inspektera fordonet. "I det ögonblicket såg det ut som en riktig video. Jag trodde att det var en riktig video, " sa Valentine.

"Men jag hade den där magkänslan att något var fel, och självklart skulle jag inte följa med killen ut. " Hennes granne fann lastbilen precis där den hade parkerats och lade märke till en annan person som hukade bakom den, vilket ledde till att man ringde till butikens säkerhetskontroll. "Ja, det var helt galet. Det var ganska chockerande, " sa Valentine. West Palm Beach-polisen bekräftade att Valentine hade gjort en anmälan och att ärendet utreds som misstänkt aktivitet. Polisen berättade för Valentine att hon troligen var den första de mött som rapporterat en sådan plan, vilket de tror är ett nytt användningsområde för AI-teknologi i försök till bilkapning. "Lyckligtvis hade jag förstånd nog att inte följa med dem ut, du vet, för vem vet vad som skulle ha hänt?" påpekade Valentine. Dr. Karni Chagal-Feferkorn, AI-advokat och professor vid University of South Florida, nämnde att antalet fall där AI-genererat innehåll används för brottslig verksamhet ökar. "Det är – AI-verktygen blir bättre, " förklarade Chagal-Feferkorn. Hon betonade att barn är särskilt utsatta för sådana metoder. "Tänk om någon visade den här videon för ett barn — ‘Hejsan, det är din mamma, kom, hon ringer dig, det är hennes röst, hon känner ditt namn, ’" sa Chagal-Feferkorn. "Det är väldigt skrämmande för mig som förälder, och jag tycker att det borde vara skrämmande för oss alla. " Cybersecurity-företaget DeepStrike rapporterar att AI-relaterad brottslighet ökar snabbt. Företaget förutspår att AI-baserad finansiell bedrägeri i USA kommer att nå 40 miljarder dollar år 2027, mot 12, 3 miljarder dollar 2023. DeepStrike:s studie visar också en exponentiell ökning av deepfake-innehåll, från 500 000 falska videor och bilder i början av 2024 till en förväntad 8 miljoner vid årets slut. Chagal-Feferkorn uppmanade allmänheten att vara uppmärksamma och verifiera misstänkta omständigheter. "Det första steget är medvetenhet; det är olyckligt, men vi kan inte längre lita på saker som tidigare, " sa hon. "Sedan, var mer vaksam, var mer misstänksam, och om något känns fel, försök att verifiera. " Valentine delade sin berättelse för att öka medvetenheten om detta växande hot. "Jag ville verkligen sprida medvetenhet om vad som händer, för till och med poliskvinnan sa att hon inte hade sett detta förut. Det var riktigt läskigt, för man börjar tänka på allt som kunde ha hänt, " sa Valentine. "Kanske hade de överrumplat mig när jag gick ur lastbilen, om jag hade varit ensam, eller om jag hade gått ut med dem, kanske hade de haft ett vapen eller försökt kasta in mig i lastbilen — jag har ingen aning. "