Hague — En verdensomspennende initiativ har resultert i minst 25 arrestasjoner knyttet til seksuelt misbruk av barn skapt av kunstig intelligens og delt på nettet, rapporterte Europol fredag. "Operasjon Cumberland representerer en av de første sakene som involverer AI-generert materiale for seksuell utnyttelse av barn, og dette medfører betydelige utfordringer for etterforskere på grunn av mangel på nasjonale lover som adresserer disse lovbruddene, " uttalte det europeiske politiet med base i Haag. De fleste arrestasjonene fant sted onsdag under den globale operasjonen ledet av dansk politi, som også inkluderte politimyndigheter fra EU, Australia, Storbritannia, Canada og New Zealand. Amerikanske politimyndigheter deltok ikke i denne operasjonen, bemerket Europol. Dette initiativet fulgte arrestasjonen i fjor november av hovedmistenkte, en dansk statsborger som drev en nettplattform for distribusjon av det AI-genererte materialet. Med en "symbolsk online betaling" kunne brukere over hele verden få et passord for å få tilgang til plattformen og se tilfeller av barnemishandling, ifølge Europol. Europol advarte om at online seksuell utnyttelse av barn fortsetter å være en av de mest bekymringsfulle formene for cyberkriminalitet innenfor Den europeiske union. Det forblir en toppprioritet for politimyndigheter som håndterer et økende volum av ulovlig innhold, og ytterligere arrestasjoner er ventet etter hvert som etterforskningen skrider frem. Mens Europol indikerte at Operasjon Cumberland fokuserte på en plattform og personer som delte innhold som var helt laget med AI, har det også vært en bekymringsfull økning i AI-manipulert "deepfake"-bilder på nettet, ofte med bilder av virkelige individer, inkludert barn, noe som kan ha alvorlige konsekvenser for livene deres. En rapport fra CBS News av Jim Axelrod i desember fremhevet historien om en jente som ble målrettet for overgrep av en klassekamerat, og nevnte at det var over 21 000 deepfake pornografiske bilder eller videoer på nettet i 2023, noe som representerte en økning på mer enn 460% sammenlignet med året før. Dette manipulerte innholdet har økt betydelig på internett mens lovgivere i USA og andre land jobber for å utvikle ny lovgivning som kan bekjempe problemet. Nylig vedtok senatet et tverrpolitisk lovforslag kjent som "TAKE IT DOWN Act, " som, hvis det vedtas, vil gjøre det ulovlig å publisere ikke-samtykkende intime bilder (NCII), inkludert AI-generert NCII (eller "deepfake hevnpornografi").

Det vil også kreve at sosiale medier og lignende plattformer etablerer prosedyrer for å fjerne slikt innhold innen 48 timer etter å ha mottatt varsel fra et offer. For øyeblikket ser det ut til at noen sosiale medieplattformer enten er ute av stand til eller uvillige til å effektivt adressere spredningen av seksualisert, AI-generert deepfake-innhold, inkludert falske bilder av kjendiser. I midten av februar indikerte Meta, morselskapet til Facebook og Instagram, at de hadde fjernet over et dusin svindelbilder av seksualisert innhold med kjente kvinnelige skuespillere og idrettsutøvere etter at en CBS News etterforskning hadde avdekket en høy forekomst av AI-manipulerte deepfake-bilder på Facebook. "Dette er en bransjeomfattende utfordring, og vi jobber kontinuerlig for å forbedre vår deteksjons- og håndhevelsesteknologi, " sa Metas talsperson Erin Logan i en e-postuttalelse sendt til CBS News på den tiden.