Den Haag — En verdensomspændende initiativ har resulteret i mindst 25 arrestationer relateret til børneseksuelt misbrugsindhold skabt af kunstig intelligens og delt online, rapporterede Europol fredag. "Operation Cumberland repræsenterer et af de første sager, der involverer AI-genereret børneseksuelt udnyttelsesmateriale, hvilket medfører betydelige udfordringer for efterforskerne på grund af fraværet af nationale love, der adresserer disse forbrydelser, " udtalte den europæiske politimyndighed, der er baseret i Den Haag. De fleste af arrestationerne fandt sted onsdag under den globale operation, der blev ledet af dansk politi og også omfattede retshåndhævende myndigheder fra EU, Australien, Storbritannien, Canada og New Zealand. Amerikanske retshåndhævende myndigheder deltog ikke i denne operation, bemærkede Europol. Dette initiativ fulgte efter arrestationen i november sidste år af hovedmistænkte, en dansk statsborger, der drev en online platform til distribution af det AI-genererede materiale. Med en "symbolsk online betaling" kunne brugere verden over få adgang til en adgangskode til platformen og se tilfælde af børnemisbrug ifølge Europol. Europol advarede om, at online børneseksuel udnyttelse fortsat er en af de mest alarmerende former for cyberkriminalitet inden for Den Europæiske Union. Det forbliver en topprioritet for retshåndhævende myndigheder, der bekæmper et stigende volumen af ulovligt indhold, og yderligere arrestationer forventes, efterhånden som efterforskningen skrider frem. Selv om Europol indikerede, at Operation Cumberland fokuserede på en platform og personer, der delte indhold, der var helt skabt med AI, har der også været en bekymrende stigning i AI-manipulerede "deepfake"-billeder online, ofte med billeder af virkelige personer, herunder børn, hvilket kan have alvorlige konsekvenser for deres liv. En CBS News-rapport af Jim Axelrod i december fremhævede historien om en pige, der blev målrettet til misbrug af en klassekammerat, og nævnte, at der var over 21. 000 deepfake pornografiske billeder eller videoer online i 2023, hvilket markerede en stigning på mere end 460% sammenlignet med året før. Dette manipulerede indhold er steget på internettet, mens lovgivere i USA og andre lande forsøger at udvikle ny lovgivning for at bekæmpe problemet. For nylig vedtog Senatet en bipartisk lov kendt som "TAKE IT DOWN Act", som, hvis den vedtages, vil gøre det ulovligt at offentliggøre ikke-samtykkende intime billeder (NCII), herunder AI-genereret NCII (eller "deepfake hævnporno").

Den vil også kræve, at sociale medier og lignende platforme etablerer procedurer for at fjerne sådant indhold inden for 48 timer efter modtagelse af underretning fra et offer. I øjeblikket synes nogle sociale medieplatforme enten ude af stand til eller uvillige til effektivt at tackle spredningen af seksualiseret, AI-genereret deepfake-indhold, herunder falske billeder af kendisser. I midten af februar indikerede Meta, moderselskabet for Facebook og Instagram, at de havde fjernet over et dusin falske seksualiserede billeder af kendte kvindelige skuespillere og atleter, efter at en CBS News-efterforskning afslørede en høj forekomst af AI-manipulerede deepfake-billeder på Facebook. "Dette er en udfordring på tværs af branchen, og vi arbejder konstant på at forbedre vores detektions- og håndhævelsesteknologi, " sagde Metas talsperson Erin Logan i en e-mailudtalelse sendt til CBS News på det tidspunkt.