Haag — Celosvetová iniciatíva viedla k minimálne 25 zatknutiam týkajúcim sa detskej sexuálnej zneužívania obsahu vytvoreného umelou inteligenciou a zdieľaného online, uviedol Europol v piatok. "Operácia Cumberland predstavuje jeden z prvých prípadov týkajúcich sa materiálov na sexuálne vykorisťovanie detí generovaných AI, čo predstavuje významné výzvy pre vyšetrovateľov vzhľadom na absenciu národných zákonov, ktoré by sa týkali týchto trestných činov, " uviedol európsky policajný úrad so sídlom v Haagu. Väčšina zatknutí sa uskutočnila v stredu počas globálnej operácie, ktorú viedla dánska polícia, a na ktorej sa podieľali aj orgány činné v trestnom konaní z EÚ, Austrálie, Británie, Kanady a Nového Zélandu. Americké orgány činné v trestnom konaní sa tejto operácie nezúčastnili, poznamenal Europol. Táto iniciatíva nasledovala po zatknutí vlani v novembri hlavného podozrivého, dánskeho občana, ktorý prevádzkoval online platformu na distribúciu generovaného obsahu AI. Podľa Europolu mohli používatelia z celého sveta získať heslo na prístup na platformu a prezerať si prípady zneužitia detí prostredníctvom "symbolickej online platby". Europol varoval, že online sexuálne zneužívanie detí naďalej zostáva jednou z najalarmujúcejších foriem kybernetickej kriminality v rámci Európskej únie. Stále je to hlavná priorita pre orgány činné v trestnom konaní, ktoré bojujú s rastúcim objemom nezákonného obsahu, a očakáva sa, že k ďalším zatknutiam dôjde, ako vyšetrenie postupuje. Zatiaľ čo Europol naznačil, že operácia Cumberland sa zameriavala na platformu a jednotlivcov zdieľajúcich obsah vytvorený výlučne pomocou AI, došlo aj k znepokojujúcemu nárastu AI-manipulovaných "deepfake" obrazov online, často s obrazmi skutočných jednotlivcov, vrátane detí, čo môže mať vážne následky na ich životy. Správa CBS News od Jima Axelroda v decembri zdôraznila príbeh dievčaťa terčového zneužitia od spolužiaka a spomenula, že v roku 2023 bolo online viac než 21 000 pornografických deepfake obrazov alebo videí, čo predstavuje nárast o viac než 460 % v porovnaní s predchádzajúcim rokom. Tento manipulovaný obsah sa na internete množí, zatiaľ čo zákonodarcovia v USA a iných krajinách usilujú o vytvorenie nového legislatívneho rámca na boj proti tomuto problému. Nedávno senát schválil bipartizánsky návrh zákona známy ako "ZAKAZ TO ZNIČIŤ", ktorý, ak bude prijatý, by spravil nezákonné publikovať neconsensuálny intímny obsah (NCII), vrátane generovaného NCII AI (alebo "deepfake pomstychtivej pornografie").

Tiež by vyžadoval od sociálnych médií a podobných platforiem, aby vytvorili postupy na odstránenie takéhoto obsahu do 48 hodín po obdržaní oznámenia od obete. Momentálne sa niektoré platformy sociálnych médií zdajú buď neschopné, alebo nechcú účinne riešiť šírenie sexualizovaného, AI-generovaného deepfake obsahu, vrátane falošných obrazov celebrít. V polovici februára spoločnosť Meta, materská spoločnosť Facebooku a Instagramu, uviedla, že odstránila viac než tucet podvodných sexualizovaných obrazov známych ženských hercov a športovcov po tom, čo vyšetrovanie CBS News odhalilo vysokú prevalenciu AI-manipulovaných deepfake obrazov na Facebooku. "Toto je výzva v celej branži a neustále pracujeme na zlepšení našich technológií detekcie a vymáhania, " povedala hovorkyňa Mety Erin Logan v e-maile zaslanom CBS News v tom čase.