WEST PALM BEACH, Florida — Žena z West Palm Beach sdílela své zkušenosti jako varovné upozornění poté, co těsně unikla tomu, co podezřívá z pokusu o únos auta, který mohl být zneužitý pomocí videí generovaných umělou inteligencí. DOLU SE PODÍVEJTE: 'V té chvíli to vypadalo jako skutečné video, ' říká Melanie Valentine WPTV Experti varují před manipulací videí pomocí AI po incidentu, kdy se muž pokusil nalákat ženu do svého auta. Melanie Valentine řekla WPTV, že kolem 22:00 dne 17. října, když si na Home Depot na Palm Beach Lakes Boulevard v West Palm Beach dělala klíče, jí předstoupil muž ve věku kolem 20 let a ukazoval video důkaz, že někdo kradl jejího manžela s traktorem z parkoviště. „Řekl, musíš mě následovat. Musíš mě následovat. Můžeme ho chytit. Můžeme ho chytit, “ vzpomíná Valentine. Ačkoliv video vypadalo vysoce realisticky, Valentine věřila svému instinktu a odmítla jít za cizincem ven. Místo toho zavolala policii, zatímco její soused šel prověřit vůz. „V té chvíli to vypadalo jako skutečné video. Myslela jsem, že je to skutečné video, “ říká Valentine. „Ale měla jsem ten pocit v žaludku, že něco není v pořádku, a samozřejmě jsem nešla za tím chlápkem ven. “ Její soused našel vozidlo přesně tam, kde ho zanechal, a navíc si všiml, jak se za ním krouží jiná osoba, což vedlo k oznámení bezpečnostní službě Home Depot. „Jo, bylo to šílené.

Bylo to docela šokující, “ říká Valentine. Policie z West Palm Beach potvrdila, že Valentine podala oznámení a případ je v šetření jako podezřelá aktivita. Policie řekla Valentine, že je pravděpodobně první, koho na takový schéma narazila, a věří, že jde o nový způsob využití AI technologie při pokusech o únos auta. „Naštěstí jsem měla „dobrý čich“. Nešla jsem za nimi ven, protože, kdo ví, co se mohlo stát, “ poznamenala Valentine. Dr. Karni Chagal-Feferkorn, právnička specializující se na AI a profesorka na University of South Florida, zaznamenala nárůst případů, kdy je využíván obsah generovaný umělou inteligencí pro trestnou činnost. „Jde o to — nástroje AI jsou stále lepší, “ vysvětlila Chagal-Feferkorn. Zdůraznila, že děti jsou na takové taktiky obzvlášť zranitelné. „Představte si, že by někdo ukázal toto video dítěti – ‚Hej, je to tvá máma, pojď, volá tě, je to její hlas, zná tvoje jméno‘, “ řekla Chagal-Feferkorn. „Toto je pro mě velmi děsivé jako rodiče, a myslím, že by to mělo strašit nás všechny. “ Cybersecurity společnost DeepStrike hlásí, že trestné činnosti související s AI rychle rostou. Firma předpovídá, že finanční podvody využívající AI v USA dosáhnou do roku 2027 hodnoty 40 miliard dolarů, což je výrazný nárůst proti 12, 3 miliardám dolarů v roce 2023. Studie DeepStrike také ukazuje exponenciální nárůst obsahu deepfake, od 500 000 falešných videí a fotografií na začátku roku 2024 na očekávaných 8 milionů do konce roku. Chagal-Feferkorn vyzvala veřejnost, aby zůstala ostražitá a ověřovala podezřelé okolnosti. „Prvním krokem je uvědomění si, je to bohužel tak, ale už nemůžeme věřit věcem tak, jako jsme věřili dřív, “ řekla. „Druhým krokem je být více ostražitý, být více podezřívavý, a pokud se něco zdá být špatně, snažit se to ověřit. “ Valentine sdílela svůj příběh, aby zvýšila povědomí o tomto rozvíjejícím se riziku. „Opravdu jsem chtěla upozornit na to, co se děje, protože i policistka řekla, že se s tímto ještě nesetkala. Bylo to opravdu děsivé, protože si začnete představovat všechny věci, které se mohly stát, “ řekla Valentine. „Možná by mě přepadli, když bych vystupovala z traktoru, pokud bych byla sama, nebo kdybych šla ven s nimi, možná by měli zbraň nebo se pokusili mě nahnat do traktoru — vůbec nemám ponětí. “