Europol, agentúra presadzovania práva Európskej únie, oznámila, že v globálnej operácii zameranej na obrázky zneužívania detí vytvorené umelou inteligenciou (AI) bolo zadržaných najmenej 25 osôb. Podľa agentúry boli podozriví členmi kriminálnej organizácie, ktorá sa podieľala na distribúcii úplne AI-generovaných obrázkov neplnoletých. Táto operácia je jednou z prvých, ktorá sa zaoberá touto novou formou materiálu o sexuálnom zneužívaní detí (CSAM). Europol zdôraznil, že absencia národnej legislatívy týkajúcej sa týchto trestných činov predstavuje významné výzvy pre vyšetrovateľov. Zatýkanie prebiehalo súčasne v stredu 26. februára počas operácie Cumberland, ktorú viedli dánske orgány presadzovania práva, podľa tlačovej správy. Úrady z najmenej 18 ďalších krajín sa zúčastnili a operácia pokračuje, pričom sa očakáva ďalšie zatýkanie v nasledujúcich týždňoch, uviedol Europol. V súčasnosti bolo identifikovaných 272 podozrivých, bolo vykonaných 33 poverení na prehľadanie a 173 elektronických zariadení bolo skonfiškovaných, ako uviedla agentúra. Hlavný podozrivý, dánsky občan zadržaný v novembri 2024, mal prevádzkovať online platformu pre distribúciu obsahu generovaného AI, ktorý vytvoril.

Používatelia z celého sveta mali prístup k platforme prostredníctvom "symbolickej online platby", čo im umožnilo "sledovať zneužívanie detí". Europol zdôraznil, že online sexuálne zneužívanie detí zostáva vysokou prioritou pre orgány presadzovania práva EÚ, ktoré čelí "čoraz rastúcemu objemu nezákonného obsahu. " Agentúra vyjadrila, že aj úplne umelý obsah, ktorý neobsahuje skutočnú obeť, ako je ten v operácii Cumberland, prispieva k objektivizácii a sexualizácii detí. Catherine De Bolle, výkonná riaditeľka Europolu, poznamenala, že tieto umelo generované obrázky môžu byť ľahko vytvorené aj jednotlivcami s obmedzenými technickými zručnosťami. Varovala, že orgány činné v trestnom konaní musia vyvinúť "nové metódy a nástroje vyšetrenia" na riešenie týchto nových výziev. Internet Watch Foundation (IWF) vyjadrila obavy z rastúcej prítomnosti obrázkov sexuálneho zneužívania detí generovaných AI na otvorenom webe. Ich výskum z minulého roka odhalil, že 3 512 obrázkov sexuálneho zneužívania a vykorisťovania detí generovaných AI bolo nájdených na jednom webe na tmavom webe v priebehu mesiaca. V porovnaní s údajmi z predchádzajúceho roka došlo k 10% nárastu v najzávažnejšej kategórii obrázkov (Kategória A). Odborníci upozorňujú, že materiál o sexuálnom zneužívaní detí generovaný AI môže vyzerať mimoriadne realisticky, čo komplikuje snahy rozlíšiť medzi skutočnými a falošnými obrázkami.