LONDRES -- Europol, l'agència d'aplicació de la llei de la Unió Europea, ha executat una “operació a gran escala contra l'explotació sexual infantil” que implica un grup criminal que distribueix imatges de menors totalment generades per intel·ligència artificial, han informat les autoritats. Amb el suport de 19 països europeus, aquesta operació—denominada Operació Cumberland—ha resultat en un total de 25 detencions a nivell mundial i ha estat coordinada per les autoritats daneses, duent-se a terme simultàniament dimecres, segons Europol. Durant l'operació, es van identificar 273 sospitosos, amb 25 detencions i 33 registres domiciliaris realitzats, va assenyalar Europol. El principal sospitós, un nacional danès detingut el novembre de 2024, operava una plataforma en línia des de la qual difonia el contingut generat per IA que havia creat. “Després d'un pagament simbòlic en línia, els usuaris de tot el món podien obtenir una contrasenya per accedir a la plataforma i veure l'abús d'infants”, van afirmar els funcionaris. L'Operació Cumberland marca “una de les primeres instàncies que impliquen material d'abús sexual infantil generat per IA (CSAM), presentant desafiaments únics per als investigadors, especialment a causa de l'absència de lleis nacionals que abordin aquests delictes”, va declarar Europol. “En conseqüència, els Estats membres de la UE estan deliberant actualment sobre una regulació comuna proposada per la Comissió Europea amb l'objectiu de fer front a aquesta nova qüestió i protegir els nens de l'abús i l'explotació sexual. ” Les autoritats esperen més detencions en les pròximes setmanes mentre l'operació continua. Catherine De Bolle, directora executiva d'Europol, va comentar: “Aquestes imatges creades de manera artificial poden ser produïdes amb tanta facilitat que individus amb intencions criminals poden generar-les sense una àmplia experiència tècnica. Això exacerba la prevalença de material d'abús sexual infantil, dificultant cada vegada més la identificació dels infractors o de les víctimes per part dels investigadors. Les agències d'aplicació de la llei han de desenvolupar nous mètodes i eines d'investigació per abordar aquests nous problemes. ” L'explotació sexual infantil en línia continua sent una preocupació significativa a la Unió Europea, representant una de les màximes prioritats per a les agències d'aplicació de la llei que s'enfronten a un volum cada vegada més gran de contingut il·legal, va indicar Europol. “El material sexual infantil auto-generat representa una part considerable del CSAM detectat.

Els criminals estan abusant dels models d'IA per generar o modificar imatges per a la creació de CSAM i per a l'extorsió sexual. Aquests models estan disponibles fàcilment i han evolucionat ràpidament, produint resultats que s'assemblen molt al contingut real, complicant la seva identificació com a generats artificialment, ” va afegir Europol. “Això presenta obstacles significatius per a les autoritats que intenten identificar veritables víctimes. Fins i tot en casos on el contingut és completament artificial i no es representa cap víctima real, com en l'Operació Cumberland, el CSAM generat per IA contribuyeix encara a l'objectivació i sexualització dels nens, ” van declarar els funcionaris. Europol va anunciar que logo llançarà una campanya en línia en col·laboració amb els seus socis, destacant les conseqüències d'utilitzar la IA per a fins il·licits i dirigint-se als possibles infractors allà on són més actius: en línia. La campanya farà servir missatges en línia dirigits als compradors de contingut il·legal, a més d'estratègies com visites de “toc i conversa”, outreach a les xarxes socials i cartes d'advertència. “L'Operació Cumberland il·lustra un esforç coordinat continu per part de les autoritats per abordar de manera integral aquesta amenaça, centrant-se en detenir criminals i prevenir futurs delictes a través de l'educació, la dissuasió i el suport per als qui busquen ajuda, ” va concloure Europol.