Haag — Celosvětová iniciativa vedla k minimálně 25 zatčením týkajícím se obsahu o sexuálním zneužívání dětí vytvořeného umělou inteligencí a sdíleného online, uvedla Europol v pátek. „Operace Cumberland představuje jeden z prvních případů zahrnujících materiál o sexuální exploataci dětí generovaný AI, což představuje významné výzvy pro vyšetřovatele kvůli absenci národních zákonů, které by se těchto trestných činů týkaly, “ uvedla evropská policejní agentura se sídlem v Haagu. Většina zatčení proběhla ve středu během globální operace vedené dánskou policií, která zahrnovala také orgány činné v trestním řízení z EU, Austrálie, Británie, Kanady a Nového Zélandu. Americké orgány činné v trestním řízení se této operace nezúčastnily, uvedl Europol. Tato iniciativa následovala po zatčení loňského listopadu hlavního podezřelého, dánského státního příslušníka, který provozoval online platformu pro distribuci materiálu generovaného AI. S „symbolickou online platbou“ mohli uživatelé po celém světě získat heslo pro přístup na platformu a prohlížet si případy zneužívání dětí, uvádí Europol. Europol varoval, že online sexuální exploatace dětí zůstává jednou z nejzávažnějších forem kybernetické kriminality v rámci Evropské unie. Zůstává to nejvyšší prioritou pro orgány činné v trestním řízení, které se potýkají s rostoucím objemem nezákonného obsahu, a očekávají se další zatčení, jak vyšetřování pokračuje. Zatímco Europol naznačil, že operace Cumberland se zaměřila na platformu a jednotlivce sdílející obsah vytvořený výhradně pomocí AI, také došlo k znepokojivému nárůstu online „deepfake“ snímků manipulovaných AI, často s obrázky skutečných osob, včetně dětí, což může mít závažné následky na jejich životy. Zpráva CBS News od Jima Axelroda v prosinci poukázala na příběh dívky, kterou cíleně zneužíval spolužák, a zmínila, že v roce 2023 bylo online přes 21 000 pornografických hlubokých falešných obrázků nebo videí, což představuje nárůst o více než 460 % ve srovnání s předchozím rokem. Tento manipulovaný obsah se na internetu rozšířil, zatímco zákonodárci v USA a dalších zemích usilují o vytvoření nové legislativy na boj proti tomuto problému. Nedávno Senát schválil bipartisanský zákon známý jako „TAKE IT DOWN Act“, který by v případě přijetí činil nelegálním publikování intimních snímků bez souhlasu (NCII), včetně AI-generovaných NCII (nebo „pomstychtivé pornografie s deepfake“).

Také by vyžadoval, aby sociální média a podobné platformy zavedly postupy pro odstranění takového obsahu do 48 hodin od obdržení upozornění od oběti. V současnosti se některé sociální médiální platformy zdají být buď neschopné, nebo neochotné účinně čelit šíření sexualizovaného, AI-generovaného deepfake obsahu, včetně falešných obrázků celebrit. V polovině února Meta, mateřská společnost Facebooku a Instagramu, uvedla, že odstranila více než tucet podvodných sexualizovaných obrázků známých hereček a sportovkyň poté, co vyšetřování CBS News odhalilo vysokou prevalenci AI-manipulovaných deepfake obrázků na Facebooku. „To je problém pro celý průmysl a neustále pracujeme na zlepšení naší technologie pro detekci a vymáhání, “ uvedla mluvčí Mety Erin Logan v e-mailovém prohlášení zaslaném CBS News v té době.