Vlada Ujedinjenog Kraljevstva je najavila "svjetski vodeće" zakonodavstvo koje kriminalizuje alate za veštačku inteligenciju (AI) koji se koriste za kreiranje materijala za seksualno zlostavljanje djece (CSAM) i cilja na posjedovanje AI "pedofilskih priručnika" koji instruiraju pojedince o tome kako da iskorištavaju djecu koristeći AI. Nedavne upozoravajuće indikacije ukazuju na rastući trend u proizvodnji uznemirujuće realističnih slika zlostavljanja generisanih AI-em, što predstavlja značajnu prijetnju za djecu. Trenutni zakoni već čine nelegalnim posjedovanje AI-generisanog CSAM-a, ali nove mjere se fokusiraju na sprečavanje njegove proizvodnje i distribucije. Ključne promjene uključuju: - Zabranu posjedovanja, kreiranja ili distribucije AI alata za generisanje CSAM-a, s kaznama koje dostižu do pet godina zatvora. - Zabranu posjedovanja AI "pedofilskih priručnika, " kažnjivog do tri godine zatvora. Ministar za zaštitu, Jess Phillips, izjavila je da UK postavlja globalni presedan obraćajući se slikama zlostavljanja generisanim AI-em. Ministarka unutrašnjih poslova Yvette Cooper izjavila je da AI pogoršava online seksualno zlostavljanje djece, čineći ga "ekstremnijim i sadističnijim. " Alati za AI se navodno zloupotrebljavaju za izmjenu stvarnih slika djece ili manipulaciju postojećim slikama zlostavljanja, što dovodi do incidenata ucjene protiv žrtava.

NSPCC je prijavio uznemirujuće slučajeve, uključujući 15-godišnju djevojčicu koja je pronašla realistične lažne nage slike sebe na internetu. Dodatno, zakonodavstvo ima za cilj da stvori novu prijavu za operatore web sajtova na kojima se dijeli sadržaj o eksploataciji djece, sa potencijalnom kaznom od 10 godina zatvora. Britanska granična policija će biti osnažena da inspekciju vrši na uređajima pojedinaca osumnjičenih za prijetnju djeci. Ova inicijativa će biti deo nadolazećeg Zakona o kriminalu i policiji. S obzirom na povećan broj slika zlostavljanja generisanih AI-em—3, 512 identificiranih u samo jednom istraživanju iz 2024. godine—Fondacija za nadzor interneta podržava ove zakonodavne promjene, naglašavajući njihovu ključnu ulogu u unapređenju sigurnosti djece na mreži.