Hag — Svjetska inicijativa rezultirala je najmanje 25 uhićenja povezanih s sadržajem seksualnog zlostavljanja djece koji je generirala umjetna inteligencija i dijeljen online, izvijestio je Europol u petak. "Operacija Cumberland predstavlja jedan od prvih slučajeva koji uključuju materijal seksualne eksploatacije djece generiran umjetnom inteligencijom, što predstavlja značajne izazove za istražitelje zbog nedostatka nacionalnih zakona koji se bave tim prekršajima", navela je europska policijska agencija sa sjedištem u Haagu. Većina uhićenja dogodila se u srijedu tijekom globalne operacije koju je predvodila danska policija, a u kojoj su sudjelovali i pripadnici policije iz EU, Australije, Britanije, Kanade i Novog Zelanda. Američke policijske agencije nisu sudjelovale u ovoj operaciji, istaknuo je Europol. Ova inicijativa uslijedila je nakon uhićenja prošlog studenog glavnog osumnjičenika, danskog državljanina koji je upravljao online platformom za distribuciju materijala generiranog AI-jem. Uz "simboličnu online uplatu", korisnici širom svijeta mogli su dobiti lozinku za pristup platformi i pregledavanje primjera zlostavljanja djece, prema Europolu. Europol je upozorio da online seksualna eksploatacija djece ostaje jedno od najalarmantnijih oblika cyberkriminala unutar Europske unije. To i dalje ostaje jedan od glavnih prioriteta za policijske agencije koje se bore s rastućim volumenom ilegalnog sadržaja, a dodatna uhićenja se očekuju kako istraga napreduje. Iako je Europol naznačio da se Operacija Cumberland fokusirala na platformu i pojedince koji dijele sadržaj koji je u potpunosti generiran pomoću AI-a, također je zabilježen zabrinjavajući porast "deepfake" slika manipuliranih umjetnom inteligencijom, često s prikazima stvarnih pojedinaca, uključujući djecu, što može imati ozbiljne posljedice po njihov život. Izvještaj CBS Newsa autora Jima Axelroda u prosincu istaknuo je priču o djevojčici koja je bila meta zlostavljanja od strane školskog kolege, navodeći da je 2023. godine bilo više od 21. 000 pornografskih deepfake slika ili videa online, što predstavlja povećanje od više od 460% u odnosu na prethodnu godinu.

Ovaj manipulirani sadržaj rapidno se širi internetom dok zakonodavci u SAD-u i drugim zemljama nastoje razviti novu legislativu za borbu protiv problema. Nedavno je senat usvojio bipartisan zakon poznat kao "TAKE IT DOWN Act", koji bi, ako bude donesen, učinio ilegalnim objavljivanje intimnih slika bez pristanka (NCII), uključujući AI-generirane NCII (ili "deepfake pornografiju iz osvete"). Također bi zahtijevao od društvenih mreža i sličnih platformi da uspostave procedure za uklanjanje takvog sadržaja unutar 48 sati nakon primitka obavijesti od žrtve. Trenutno se čini da neke društvene mreže nisu u mogućnosti ili ne žele učinkovito riješiti širenje seksualiziranog, AI-generiranog deepfake sadržaja, uključujući lažne slike poznatih osoba. Sredinom veljače, Meta, matična kompanija Facebooka i Instagrama, naznačila je da je uklonila više od desetak lažnih seksualiziranih slika poznatih žena glumica i sportašica nakon što je istraga CBS Newsa otkrila visoku prevalenciju slika manipuliranih umjetnom inteligencijom na Facebooku. “Ovo je izazov za cijelu industriju, i neprestano radimo na poboljšanju naše tehnologije za otkrivanje i provedbu”, rekla je glasnogovornica Mete Erin Logan u email izjavi poslanoj CBS Newsu u to vrijeme.