Europol, EU's lovhåndhevende etat, har rapportert at minst 25 arrestasjoner ble gjort i en global operasjon mot barnepornografi laget av kunstig intelligens (AI). De mistenkte var medlemmer av en kriminell organisasjon som var involvert i distribusjon av helt AI-genererte bilder av mindreårige, ifølge etaten. Denne operasjonen er en av de første som tar for seg denne nye formen for materiale relatert til seksuelt misbruk av barn (CSAM). Europol bemerket at fraværet av nasjonal lovgivning på disse lovbruddene utgjorde betydelige utfordringer for etterforskere. Arrestasjonene skjedde samtidig onsdag 26. februar, under Operasjon Cumberland, som ble ledet av dansk politi, ifølge en pressemelding. Myndigheter fra minst 18 andre land deltok, og operasjonen pågår fortsatt, med flere arrestasjoner ventet i de kommende ukene, indikerte Europol. Per nå har 272 mistenkte blitt identifisert, med 33 ransakelser utført og 173 elektroniske enheter beslaglagt, ifølge etaten. Hovedmistenkte, en dansk statsborger arrestert i november 2024, skal ha drevet en nettplattform for distribusjon av innholdet han laget med AI.

Brukere verden over kunne få tilgang til plattformen ved å gjøre en "symbolsk online betaling, " som lot dem "se barn bli misbrukt. " Europol understreket at seksuell utnyttelse av barn på nettet fortsatt er en høy prioritet for EU-myndigheter, som står overfor "et stadig voksende volum av ulovlig innhold. " Etaten uttrykte at selv fullt kunstig innhold uten reelle ofre, som det i Operasjon Cumberland, bidrar til objektivisering og seksualisering av barn. Catherine De Bolle, Europols administrerende direktør, bemerket at disse kunstig genererte bildene kan produseres enkelt, selv av personer med begrensede tekniske ferdigheter. Hun advarte om at politiet må utvikle "nye etterforskningsmetoder og verktøy" for å håndtere disse nye utfordringene. Internet Watch Foundation (IWF) har uttrykt bekymring for den økende forekomsten av AI-genererte bilder av seksuelt misbrukte barn på det åpne nettet. Deres forskning fra i fjor viste at 3. 512 AI-genererte bilder av seksuelt misbruk og utnyttelse av barn ble funnet på ett mørk nettside innen en måned. Sammenlignet med data fra året før, så kategori A, den mest alvorlige kategorien av bilder, en økning på 10 %. Eksperter understreker at AI-generert materiale relatert til seksuelt misbruk av barn kan fremstå som bemerkelsesverdig realistisk, noe som kompliserer arbeidet med å skille mellom ekte og falske bilder.