La Haia — Una iniciativa mundial ha resultat en almenys 25 detencions relacionades amb contingut d'abús sexual infantil creat per intel·ligència artificial i compartit en línia, va informar Europol divendres. "L'Operació Cumberland representa un dels casos inicials que impliquen material d'explotació sexual infantil generat per IA, presentant reptes significatius per als investigadors a causa de l'absència de lleis nacionals que abordin aquests delictes, " va declarar l'agència de policia europea amb seu a La Haia. La majoria de les detencions van tenir lloc dimecres durant l'operació global liderada per la policia danesa, que també va incloure forces de l'ordre de la UE, Austràlia, Gran Bretanya, Canadà i Nova Zelanda. Les agències de law enforcement dels EUA no van participar en aquesta operació, va assenyalar Europol. Aquesta iniciativa va seguir l'arrest el novembre passat del principal sospitós, un nacionals danès que operava una plataforma en línia per distribuir el material generat per IA. Amb un "pagament simbòlic en línia", usuaris d'arreu del món podien obtenir una contrasenya per accedir a la plataforma i veure casos d'abús infantil, segons Europol. Europol va advertir que l'explotació sexual infantil en línia continua sent una de les formes més alarmants de cibercriminalitat dins de la Unió Europea. Seguig com a prioritat màxima per a les agències de law enforcement que afronten un volum creixent de contingut il·legal, s'anticipen més detencions a mesura que avança la investigació. Mentre Europol va indicar que l'Operació Cumberland se centrava en una plataforma i individus que compartien contingut completament creat amb IA, també hi ha hagut un preocupant augment d'imatges "deepfake" manipulades per IA en línia, sovint amb imatges de persones reals, incloent nens, que poden tenir repercussions severes en les seves vides. Un informe de CBS News per Jim Axelrod al desembre va destacar la història d'una nena objecte d'abús per part d'un company de classe, mencionant que hi havia més de 21, 000 imatges o vídeos pornogràfics "deepfake" en línia el 2023, marcant un augment de més del 460% en comparació amb l'any anterior. Aquest contingut manipulat ha augmentat a través d'internet mentre els legislators dels EUA i altres països intenten desenvolupar nova legislació per combatre el problema. Recentment, el Senat va aprovar un projecte de llei bipartidista conegut com a "TAKE IT DOWN Act", que, si s'aprova, faria il·legal publicar imatges íntimes no consensuades (NCII), incloent NCII generades per IA (o "pornografia de venjança deepfake").

També exigiria a les xarxes socials i plataformes similars establir procediments per eliminar aquest tipus de contingut en un termini de 48 hores després de rebre un avís d'una víctima. Actualment, sembla que algunes plataformes de xarxes socials no poden ni volen abordar eficaçment la propagació de contingut sexualitzat generat per IA, incloent imatges falses de celebritats. A mitjans de febrer, Meta, la companyia mare de Facebook i Instagram, va indicar que havia eliminat més d'una dotzena d'imatges sexualitzades fraudulentes de conegudes actrius i atletes després que una investigació de CBS News revelés una alta prevalença d'imatges "deepfake" manipulades per IA a Facebook. "Això és un repte per a tota la indústria, i estem treballant constantment per millorar la nostra tecnologia de detecció i aplicació, " va dir la portaveu de Meta, Erin Logan, en una declaració per correu electrònic enviada a CBS News en aquell moment.