Haarlem – Maailmanlaajuinen aloite on johtanut vähintään 25 pidätettyyn tekoälyn luoman ja verkossa jaetun lasten seksuaalisen hyväksikäytön materiaalin vuoksi, Europol raportoi perjantaina. "Operaatio Cumberland edustaa yhtä alkuvaiheen tapausta, jossa käsitellään tekoälyn tuottamaa lasten seksuaalista hyväksikäyttöä, mikä asettaa merkittäviä haasteita tutkijoille kansallisten lakien puuttuessa näiltä osin, " totesi Haagissa sijaitseva Euroopan poliisiagentuuri. Suurin osa pidätyksistä tapahtui keskiviikkona globaalin operaation aikana, jota johti Tanskan poliisi, ja johon osallistui myös lainvalvontaviranomaisia EU:ssa, Australiassa, Britanniassa, Kanadassa ja Uudessa-Seelannissa. Yhdysvaltojen lainvalvontaviranomaiset eivät osallistuneet tähän operaatioon, Europol mainitsi. Tämä aloite seurasi viime marraskuussa pääepäillyn, tanskalaisen kansalaisen, pidätystä, joka hallinnoi verkkoalustaa tekoälyn luoman materiaalin jakamiseen. "Symbolisella verkkosivumaksulla" käyttäjät ympäri maailmaa voivat saada salasanan päästäkseen alustalle ja nähdä lasten hyväksikäyttöä, Europolin mukaan. Europol varoitti, että verkossa tapahtuva lasten seksuaalinen hyväksikäyttö on edelleen yksi EU:n hälyttävimmistä kyberrikollisuuden muodoista. Se on lainvalvontaviranomaisten tärkein prioriteetti, kun ne kamppailevat kasvavan määrän laitonta sisältöä vastaan, ja lisäpidsytyksiä odotetaan tutkinnan edetessä. Vaikka Europol ilmoitti, että operaatio Cumberland keskittyi alustaan ja henkilöihin, jotka jakavat täysin tekoälyn luomaa sisältöä, myös AI-manipuloitujen "deepfake"-kuvien määrä verkossa on hälyttävästi noussut ja niissä on usein oikeiden henkilöiden, mukaan lukien lasten, kuvia, mikä voi aiheuttaa vakavia seurauksia heidän elämilleen. CBS Newsin raportoima Jim Axelrodin joulukuussa nosti esiin tarinan tytöstä, joka joutui luokkatoverinsa hyväksikäytön kohteeksi, ja mainitsi, että vuonna 2023 verkossa oli yli 21 000 deepfake-pornovideota tai kuvaa, mikä merkitsee yli 460 %:n kasvua edellisvuoteen verrattuna. Tämä manipuloitu sisältö on lisääntynyt koko internetissä, kun lainsäätäjät Yhdysvalloissa ja muissa maissa pyrkivät laatimaan uusia lakeja ongelman torjumiseksi. Äskettäin senaatti hyväksyi kaksipuolisen lain, joka tunnetaan nimellä "TAKE IT DOWN Act", joka, jos se tulee voimaan, tekisi laittomaksi julkaista ilman suostumusta otettuja intiimejä kuvia (NCII), mukaan lukien tekoälyn luomat NCII:t (tai "deepfake-kosto-pornografia").

Se myös velvoittaisi sosiaalisen median ja vastaavat alustat laatimaan menettelyjä tällaisen sisällön poistamiseksi 48 tunnin kuluessa uhkilta vastaanottamansa ilmoituksen jälkeen. Tällä hetkellä jotkin sosiaalisen median alustat näyttävät joko kykenemättömiltä tai haluttomilta käsittelemään tehokkaasti seksuaalista, tekoälyllä tuotettua deepfake-sisältöä, mukaan lukien vale- kuvat kuuluisista henkilöistä. Helmikuun puolivälissä Meta, Facebookin ja Instagramin emoyhtiö, ilmoitti poistaneensa yli tusinan petollista seksualisoitua kuvaa tunnetuista naisnäyttelijöistä ja urheilijoista sen jälkeen, kun CBS Newsin tutkimus paljasti korkean esiintyvyyden tekoälyllä manipuloiduista deepfake-kuvista Facebookissa. "Tämä on koko toimialan haaste, ja työskentelemme jatkuvasti parantaaksemme havainto- ja valvontateknologiaamme, " sanoi Meta:n tiedottaja Erin Logan sähköpostilauseessa, joka lähetettiin CBS Newsille tuolloin.