LONDON -- Europol, EUs lovhåndhevende organ, har utført en "storskalainnsats mot seksuell utnyttelse av barn" som involverer en kriminell gruppe som distribuerer bilder av mindreårige fullt ut generert av kunstig intelligens, rapporterer myndighetene. Støttet av 19 europeiske land, resulterte denne operasjonen — kalt Operasjon Cumberland — i totalt 25 arrestasjoner verden over og ble koordinert av dansk politi, som fant sted samtidig på onsdag, ifølge Europol. I løpet av operasjonen ble 273 mistenkte identifisert, med 25 arrestasjoner og 33 boligsøk, bemerket Europol. Den primære mistenkte, en dansk statsborger arrestert i november 2024, drev en nettplattform der han distribuerte det AI-genererte innholdet han laget. "Etter en symbolsk online betaling kunne brukere fra hele verden få et passord for å få tilgang til plattformen og se overgrep mot barn, " uttalte tjenestemenn. Operasjon Cumberland markerer "ett av de første tilfellene som involverer AI-generert seksuelt misbruksmateriale av barn (CSAM), og gir unike utfordringer for etterforskere, spesielt på grunn av fraværet av nasjonale lover som adresserer disse forbrytelsene, " sa Europol. "Som svar vurderer nå EU-medlemslandene en felles regulering foreslått av Europakommisjonen, som tar sikte på å møte dette nye problemet og beskytte barn mot seksuelle overgrep og utnyttelse. " Myndighetene forventer flere arrestasjoner i ukene som kommer ettersom operasjonen fortsetter. Catherine De Bolle, Europols administrerende direktør, uttalte, "Disse kunstig skapte bildene kan produseres så enkelt at enkeltpersoner med kriminelle intensjoner kan generere dem uten omfattende teknisk ekspertise. Dette forverrer forekomsten av seksuelt misbruksmateriale av barn, og gjør det stadig vanskeligere for etterforskere å identifisere lovbrytere eller ofre. Lovhåndhevende myndigheter må utvikle nye etterforskningsmetoder og verktøy for å takle disse nye problemene. " Seksuell utnyttelse av barn på nett forblir en betydelig bekymring i Den europeiske union, og representerer en av de høyeste prioriteringene for lovhåndhevende myndigheter som står overfor et stadig økende volum av ulovlig innhold, indikerte Europol. "Selv-generert seksuelt materiale av barn utgjør en betydelig del av det oppdagede CSAM.

Kriminelle misbruker AI-modeller for å generere eller endre bilder til produksjon av CSAM og for seksuell utpressing. Disse modellene er lett tilgjengelige og har utviklet seg raskt, noe som produserer utganger som ligner ekte innhold, og kompliserer identifikasjonen som kunstig generert, " la Europol til. "Dette utgjør betydelige hindringer for myndighetene som prøver å identifisere ekte ofre. Selv i tilfeller der innholdet er helt kunstig og ingen ekte offer er avbildet, som i Operasjon Cumberland, bidrar AI-generert CSAM fortsatt til objektifisering og seksualisering av barn, " uttalte tjenestemenn. Europol kunngjorde at de snart vil lansere en online kampanje i samarbeid med sine partnere, med fokus på konsekvensene av å bruke AI til ulovlige formål og rette seg mot potensielle lovbrytere der de er mest aktive: på nett. Kampanjen vil bruke online meldinger rettet mot kjøpere av ulovlig innhold, i tillegg til strategier som "banke-og-prate"-besøk, sosiale medier outreach, og advarselbrev. "Operasjon Cumberland illustrerer en kontinuerlig koordinert innsats fra politiet for å grundig takle denne trusselen, med fokus på å arrestere kriminelle og forhindre fremtidige forbrytelser gjennom utdanning, avskrekking og støtte til de som søker hjelp, " konkluderte Europol.