Haag — Alþjóðleg hæfni hefur leitt til að minnsta kosti 25 handtaka tengdum kynferðislegu ofbeldi gegn börnum sem var skapað með gervigreind og deilt á netinu, skýrði Europol frá á föstudag. „Aðgerðin Cumberland er eitt af fyrstu tilfellunum sem snúa að kynferðislegu nýtingarefni barna sem er búið til með gervigreind, og skapa verulegar hindranir fyrir rannsakendur vegna skorts á þjóðlögum sem taka á þessum brotum, “ sagði lögregluyfirvöld Evrópu, sem eru staðsett í Haag. Flest handtökurnar áttu sér stað á miðvikudag í leiðangrinum sem danska lögreglan leiddi, sem einnig innihélt lögreglu frá ESB, Ástralíu, Bretlandi, Kanada og Nýja Sjálandi. Lögregluyfirvöld Bandaríkjanna tóku ekki þátt í þessari aðgerð, samkvæmt Europol. Þetta verkefni fylgdi því að aðalleikandinn var handtekinn í nóvember síðastliðnum, danskur ríkisborgari sem rak netpall fyrir dreifingu á efni sem var búið til með gervigreind. Með „táknrænni netgreiðslu“ gátu notendur um allan heim fengið lykilorð til að fá aðgang að pallinum og skoða tilfelli um kynferðislegt ofbeldi gegn börnum, samkvæmt Europol. Europol varaði við því að kynferðisleg nýting barna á netinu er áfram ein af þeim alvarlegustu myndum af cyberbroti innan Evrópusambandsins. Það er áfram forgangsmál hjá lögregluyfirvöldum sem glíma við sífellt aukandi magn ólöglegra efna, og fleiri handtökur eru væntanlegar þegar rannsóknin heldur áfram. Þó Europol hafi bent á að aðgerðin Cumberland einbeitti sér að pallinum og einstaklingum sem deildu efni sem var að fullu búið til með gervigreind, hefur einnig verið áhyggjuefni að aukning í AI-manipuleraðri „deepfake“ myndum sé á netinu, oft með myndum af raunverulegum einstaklingum, þar á meðal börnum, sem geta haft alvarlegar afleiðingar á líf þeirra. Skýrsla CBS News eftir Jim Axelrod í desember kom inn á sögu stúlku sem var markviss fyrir ofbeldi af bekkjarfélaga, og nefndi að það hefðu verið yfir 21. 000 deepfake klámmyndir eða myndbönd á netinu árið 2023, sem er aukning um meira en 460% miðað við árið á undan. Þetta manipuleraða efni hefur aukist um internetið þegar löggivendur í Bandaríkjunum og öðrum löndum reyna að þróa ný lög til að takast á við vandamálið. Nýlega samþykkti öldungadeildin frumvarp sem kallast „TAKE IT DOWN Act“, sem, ef það verður samþykkt, myndi gera það ólöglegt að birta óleyfilegar náin myndir (NCII), þar með talið gervigreindarbúið NCII (eða „deepfake hefndar klám“).

Það myndi einnig krafist að samfélagsmiðlar og samsvarandi pallar settu upp aðferðir til að fjarlægja slíkt efni innan 48 tíma eftir að þeir hefðu fengið tilkynningu frá fórnarlambi. Að mati virðist sumir samfélagsmiðlar annað hvort ekki vera færir eða ekki vilja að takast á við útbreiðslu kynferðislegs, gervigreindar-búins deepfake efnis, þar á meðal falskar myndir af frægum einstaklingum. Í miðjum febrúar, gaf Meta, móðurfyrirtæki Facebook og Instagram, til kynna að það hefði fjarlægt yfir tólf svindl kynferðislegar myndir af þekktum kvenkyns leikkonum og íþróttafólki eftir að rannsókn CBS News leiddi í ljós háa tíðni AI-manipuleraðra deepfake mynda á Facebook. „Þetta er áskorun á öllum sviðum, og við erum stöðugt að vinna að því að bæta okkar greiningu og framkvæmdir, “ sagði talsmaður Meta, Erin Logan, í tölvupósts yfirlýsingu sendri til CBS News þá þegar.