LONDON -- Europol, agencija za provođenje zakona Europske unije, provela je “veliku operaciju protiv seksualne eksploatacije djece” koja uključuje kriminalnu grupu koja distribuira slike maloljetnika koje je potpuno generirala umjetna inteligencija, izvijestile su vlasti. Podržana od strane 19 europskih zemlja, ova operacija — nazvana Operacija Cumberland — rezultirala je ukupno 25 uhićenja diljem svijeta i koordinirana je od strane danskih vlasti, a održala se istovremeno u srijedu, prema Europolu. Tijekom operacije identificirano je 273 osumnjičenika, od kojih su 25 uhvaćeni, a 33 pretrage domova provedene, primijetio je Europol. Glavni osumnjičenik, danski državljanin uhvaćen u studenom 2024. , upravljao je online platformom s koje je distribuirao sadržaj generiran umjetnom inteligencijom koji je stvorio. “Nakon simbolične online uplate, korisnici iz cijelog svijeta mogli su dobiti lozinku za pristup platformi i gledanje zlostavljanja djece, ” izjavili su dužnosnici. Operacija Cumberland označava “jedan od prvih slučajeva koji uključuju materijal za seksualno zlostavljanje djece (CSAM) generiran umjetnom inteligencijom, predstavljajući jedinstvene izazove za istražitelje, osobito zbog odsutnosti nacionalnih zakona koji se bave ovim prekršajima, ” navodi Europol. “U odgovoru, države članice EU trenutno raspravljaju o zajedničkoj regulativi koju je predložila Europska komisija koja je usmjerena na suočavanje s ovim novim problemom i zaštitu djece od seksualne eksploatacije i zlostavljanja. ” Vlasti očekuju daljnja uhićenja u narednim tjednima dok operacija traje. Catherine De Bolle, izvršna direktorica Europola, istaknula je, “Ove umjetno stvorene slike mogu se proizvoditi tako lako da pojedinci s kriminalnim namjerama mogu generirati bez opsežnog tehničkog znanja. To pogoršava prevalenciju materijala za seksualno zlostavljanje djece, što čini još složenijim za istražitelje da identificiraju počinitelje ili žrtve. Agencije za provođenje zakona moraju razviti nove metode i alate za istraživanje kako bi se suočile s ovim novim izazovima. ” Online seksualna eksploatacija djece ostaje značajna briga u Europskoj uniji, predstavljajući jedan od najviših prioriteta za agencije za provođenje zakona koje se suočavaju s stalno rastućim volumenom ilegalnog sadržaja, istaknuo je Europol. “Samokreirani materijal za seksualno zlostavljanje djece predstavlja značajan dio otkrivenog CSAM-a.

Kriminalci zlorabe AI modele za generiranje ili modificiranje slika u svrhu stvaranja CSAM-a i seksualne ucjene. Ovi modeli su lako dostupni i brzo su se razvijali, proizvodeći sadržaje koji nalikuju pravom, otežavajući njihovu identifikaciju kao umjetno generiranih, ” dodao je Europol. “To predstavlja značajne prepreke za vlasti koje pokušavaju identificirati stvarne žrtve. Čak i u slučajevima kada je sadržaj potpuno umjetan i nema prikazane stvarne žrtve, kao u Operaciji Cumberland, AI generirani CSAM i dalje doprinosi objektivizaciji i seksualizaciji djece, ” izjavili su dužnosnici. Europol je najavio da će uskoro pokrenuti online kampanju u suradnji s partnerima, naglašavajući posljedice korištenja AI-a u nezakonite svrhe i ciljati potencijalne počinitelje gdje su najaktivniji: online. Kampanja će koristiti online poruke usmjerene prema kupcima ilegalnog sadržaja, uz strategije poput “knock-and-talk” posjeta, zajedničkog nastupa na društvenim mrežama, i upozoravajućih pisama. “Operacija Cumberland ilustrira kontinuirani koordinirani napor agencija za provođenje zakona da sveobuhvatno riješe ovu prijetnju, fokusirajući se na uhićenje kriminalaca i sprečavanje budućih prekršaja kroz edukaciju, odvraćanje i podršku onima koji traže pomoć, ” zaključio je Europol.