Den britiske regering har annonceret en "verdensførende" lovgivning for at kriminalisere AI-værktøjer, der bruges til at skabe materiale til seksuelt misbrug af børn (CSAM), samt at målrette mod besiddelse af AI "pædofilmanualer", der instruerer enkeltpersoner i, hvordan man udnytter børn ved hjælp af AI. Nuværende advarsler indikerer en stigende tendens i produktionen af foruroligende realistiske AI-genererede misbrugsbilleder, der udgør en betydelig trussel mod børn. Nuværende love gør det allerede ulovligt at besidde AI-genereret CSAM, men de nye foranstaltninger fokuserer på at forhindre dets skabelse og distribution. Nøgleændringerne inkluderer: - Forbud mod besiddelse, skabelse eller distribution af AI-værktøjer til generering af CSAM, med straffe på op til fem års fængsel. - Forbud mod besiddelse af AI "pædofilmanualer", som kan straffes med op til tre års fængsel. Safeguarding-minister Jess Phillips udtalte, at Storbritannien sætter en global præcedens ved at tackle AI-genererede misbrugsbilleder. Indenrigsminister Yvette Cooper bemærkede, at AI forværrer online seksuelt misbrug af børn og gør det "mere ekstremt og sadistisk. " AI-værktøjer bliver angiveligt misbrugt til at ændre ægte billeder af børn eller manipulere eksisterende misbrugsbilleder, hvilket fører til tilfælde af afpresning af ofrene.

NSPCC har rapporteret om foruroligende tilfælde, herunder en 15-årig pige, der fandt realistiske falske nøgenbilleder af sig selv online. Derudover sigter lovgivningen mod at oprette en ny forbrydelse for operatører af hjemmesider, hvor indhold om udnyttelse af børn deles, med en potentiel fængselsstraf på 10 år. Den britiske grænsekontrol vil få beføjelser til at inspicere enheder tilhørende enkeltpersoner, der mistænkes for at udgøre en risiko for børn. Dette initiativ vil være en del af det kommende kriminalitets- og politilovforslag. Med stigende tilfælde af AI-genererede misbrugsbilleder—3. 512 identificeret i en enkelt undersøgelse fra 2024—understøtter Internet Watch Foundation disse lovgivningsmæssige ændringer og fremhæver deres afgørende rolle i at forbedre online sikkerhed for børn.