Storbritannien er på vej til at blive det første land, der indfører love, der har til formål at forbyde brugen af AI-værktøjer til produktion af billeder af seksuelt misbrug af børn, som reaktion på alarmerende advarsler fra retshåndhævende myndigheder om den hurtige stigning i misbrug af sådan teknologi. Lovgivningen vil gøre det ulovligt at besidde, skabe eller distribuere AI-værktøjer, der er specielt designet til at generere materiale om seksuelt misbrug af børn, med kriminelle, der risikerer op til fem års fængsel. Derudover vil besiddelse af manualer, der instruerer potentielle kriminelle om brugen af disse AI-værktøjer, også kunne straffes med op til tre års fængsel. En ny lov vil målrette mod personer, der driver hjemmesider, som deler misbrugende indhold eller råd, og Border Force vil få beføjelser til at tvinge mistænkte kriminelle til at låse deres enheder op til undersøgelse. Tiltaget kommer, efter at Internet Watch Foundation har rapporteret en betydelig stigning i AI-genererede billeder af seksuelt misbrug af børn - 245 bekræftede tilfælde sidste år, sammenlignet med 51 året før. AI bliver misbrugt på forskellige måder, herunder ved at ændre billeder af rigtige børn og anvende deres ansigtstræk på eksisterende misbrugende billeder samt ved at bruge deres stemmer.

Disse billeder bliver også brugt til at afpresse børn, hvilket fører til værre udnyttelsessituationer, og AI hjælper gerningsmændene med at skjule deres identitet, mens de forfører ofrene. Politiet understreger, at visning af sådanne billeder er forbundet med en øget sandsynlighed for fremtidigt misbrug. De nye love vil blive inkluderet i et kommende kriminalitets- og politilovforslag, hvor teknologi-ministeren anerkender statens svigt i at tackle de negative anvendelser af AI. Peter Kyle fremhævede det presserende behov for beskyttelsesforanstaltninger for børn og delte et bekymrende eksempel på en teenager, der blev ofret af falske nøgenbilleder. Befalingsmænd, herunder NSPCC, byder de foreslåede ændringer velkommen, men understreger vigtigheden af robust regulering af teknologien for at forhindre sådanne skader. Støtte tjenester er tilgængelige for berørte børn og voksne gennem forskellige organisationer som NSPCC, Napac og Child Helplines International.