LONDÝN -- Europol, agentura pro uplatňování práva Evropské unie, provedl „rozsáhlou operaci proti sexuálnímu zneužívání dětí“, která se týkala zločinecké skupiny distribuující obrázky nezletilých generované výhradně umělou inteligencí, hlásí úřady. Podpořena 19 evropskými zeměmi, tato operace - nazvaná Operace Cumberland - vedla k celkovému počtu 25 zatčení po celém světě a byla koordinována dánskými orgány činnými v trestním řízení, přičemž probíhala současně ve středu, podle Europolu. Během operace bylo identifikováno 273 podezřelých, z nichž bylo provedeno 25 zatčení a 33 domovních prohlídek, uvedl Europol. Hlavní podezřelý, dánský občan zatčený v listopadu 2024, provozoval online platformu, ze které šířil obsah generovaný AI, který vytvořil. „Po symbolickém online platbě mohli uživatelé z celého světa získat heslo pro přístup na platformu a je možné, aby sledovali zneužívání dětí, “ uvedli úředníci. Operace Cumberland představuje „jednu z prvních případů zahrnujících materiály o sexuálním zneužívání dětí generované AI (CSAM), což představuje unikátní výzvy pro vyšetřovatele, zejména kvůli absenci národních zákonů řešících tyto trestné činy, “ uvedl Europol. „V reakci na to členské státy EU v současnosti diskutují o společné regulaci navržené Evropskou komisí, která má za cíl čelit tomuto novému problému a chránit děti před sexuálním zneužíváním a vykořisťováním. “ Úřady očekávají další zatčení v následujících týdnech, jak operace pokračuje. Catherine De Bolle, výkonná ředitelka Europolu, poznamenala: „Tyto uměle vytvořené obrázky lze produkovat tak snadno, že jednotlivci se zločinnými úmysly je mohou generovat bez rozsáhlé technické odbornosti. To zhoršuje prevalenci materiálů o sexuálním zneužívání dětí, což ztěžuje vyšetřovatelům identifikaci pachatelů či obětí. Orgány činné v trestním řízení musí vyvinout nové vyšetřovací metody a nástroje, aby se vypořádaly s těmito vznikajícími problémy. “ Online sexuální vykořisťování dětí zůstává v Evropské unii významným problémem, představujícím jednu z nejvyšších priorit pro orgány činné v trestním řízení čelící stále rostoucímu objemu nelegálního obsahu, uvedl Europol. „Sebevytvářený materiál o sexuálním zneužívání dětí představuje značnou část zjištěného CSAM.

Zločinci zneužívají AI modely k vytváření či úpravě obrázků pro vytváření CSAM a pro sexuální vydírání. Tyto modely jsou snadno dostupné a rychle se vyvíjejí, produkující výstupy, které se velmi podobají reálnému obsahu, což komplikuje jejich identifikaci jako uměle generované, “ dodal Europol. „To představuje významné překážky pro úřady, které se snaží identifikovat skutečné oběti. I v případech, kdy je obsah zcela umělý a není zobrazen žádná skutečná oběť, jako v Operaci Cumberland, AI-generované CSAM stále přispívá k objektivizaci a sexualizaci dětí, “ uvedli úředníci. Europol oznámil, že brzy zahájí online kampaň ve spolupráci se svými partnery, která zdůrazní důsledky využívání AI pro nezákonné účely a cílí na potenciální pachatele tam, kde jsou nejaktivnější: online. Kampaň bude využívat online zprávy zaměřené na kupce nelegálního obsahu, kromě strategií jako jsou „knock-and-talk“ návštěvy, outreach na sociálních médiích a varovné dopisy. „Operace Cumberland ilustruje kontinuální koordinované úsilí orgánů činných v trestním řízení, aby komplexně čelily této hrozbě, zaměřuje se na zatýkání zločinců a prevenci budoucích deliktů prostřednictvím vzdělávání, odstrašování a podpory těch, kteří hledají pomoc, “ uzavřel Europol.