Haag — Svjetska inicijativa rezultirala je najmanje 25 hapšenja povezanih s sadržajem seksualne zloporabe djece koji je stvorila umjetna inteligencija i koji je dijeljen online, izvijestio je Europol u petak. "Operacija Cumberland predstavlja jedan od prvih slučajeva koji uključuju AI-generirani materijal za seksualnu eksploataciju djece, predstavljajući značajne izazove za istražitelje zbog nedostatka nacionalnih zakona koji se bave ovim deliktima, " rekla je Evropska policijska agencija sa sjedištem u Haagu. Većina hapšenja dogodila se u srijedu tokom globalne operacije koju je predvodila danska policija, a uključila je i izvršne organe iz EU, Australije, Britanije, Kanade i Novog Zelanda. Američke policijske agencije nisu učestvovale u ovoj operaciji, napomenuo je Europol. Ova inicijativa uslijedila je nakon hapšenja glavnog osumnjičenog u novembru prošle godine, danskog državljanina koji je operirao online platformu za distribuciju materijala generiranog umjetnom inteligencijom. S "simboličnom online uplatom, " korisnici širom svijeta mogli su dobiti lozinku za pristup platformi i pregledati primjere zlostavljanja djece, navodi Europol. Europol je upozorio da online seksualna eksploatacija djece i dalje ostaje jedan od najalarmantnijih oblika kibernetičkog kriminala unutar Evropske unije. To ostaje glavna prioritet za policijske agencije koje se bore s rastućim volumenom nelegalnog sadržaja, a dodatna hapšenja se očekuju kako istraga napreduje. Dok Europol naglašava da je operacija Cumberland bila usmjerena na platformu i pojedince koji dijele sadržaj koji je potpuno kreiran koristeći AI, također je došlo do zabrinjavajućeg porasta online "deepfake" slika manipuliranih AI-jem, često s slikama stvarnih pojedinaca, uključujući djecu, što može imati teške posljedice na njihove živote. Izvještaj CBS Newsa od Jima Axelroda u decembru istakao je priču o djevojci koja je bila meta zlostavljanja od strane vršnjaka, navodeći da je u 2023. godini online bilo preko 21. 000 pornografskih deepfake slika ili videa, što predstavlja povećanje od više od 460% u poređenju sa prethodnom godinom.

Ovaj manipulirani sadržaj naglo je porastao na internetu dok se zakonodavci u SAD-u i drugim zemljama trude razviti novu legislativu kako bi se uhvatili u koštac s ovim problemom. Nedavno je Senat usvojio bipartisan zakon poznat kao "TAKE IT DOWN Act, " koji bi, ako bude usvojen, učinio nezakonitim objavljivanje nesuglasnih intimnih slika (NCII), uključujući AI-generirane NCII (ili "deepfake pornografiju osvetu"). Također bi zahtijevao od društvenih mreža i sličnih platformi da uspostave procedure za uklanjanje takvog sadržaja u roku od 48 sati po prijemu obavijesti od žrtve. Trenutno, čini se da neke društvene mreže ili nisu u mogućnosti ili ne žele efikasno riješiti širenje seksualiziranog, AI-generiranog deepfake sadržaja, uključujući lažne slike poznatih ličnosti. Sredinom februara, Meta, kompanija majka Facebook-a i Instagrama, ukazala je na to da je uklonila više od desetak lažnih seksualiziranih slika poznatih glumica i sportašica nakon što je ispitivanje CBS Newsa otkrilo visoku prisutnost AI-manipulisanih deepfake slika na Facebook-u. "Ovo je izazov za cijelu industriju, i stalno radimo na unapređenju naše tehnologije za otkrivanje i sprovođenje, " rekla je portparolka Mete, Erin Logan, u izjavi poslatom CBS News-u u to vrijeme.