Storbritannien annoncerede lørdag, at det vil kriminalisere brugen af ​​kunstig intelligens-værktøjer designet til at generere billeder af seksuelt misbrug af børn og bliver dermed den første nation globalt til at etablere nye AI-relaterede lovovertrædelser for seksuelt misbrug. Ifølge de nuværende love i England og Wales er det ulovligt at besidde, skabe, dele eller vise eksplicitte billeder af børn. De kommende lovovertrædelser adresserer specifikt brugen af ​​AI til at manipulere ægte billeder af mindreårige til eksplicit indhold. Denne beslutning kommer som reaktion på en betydelig stigning i brugen af ​​AI af onlinekriminelle til at producere materiale til misbrug af børn, med rapporter, der tyder på, at sådanne eksplicitte billeder er steget næsten femfoldigt i 2024, ifølge Internet Watch Foundation. Yvette Cooper, Storbritanniens indenrigsminister, udtalte: "Vi ved, at handlingerne fra depraverede prædatorer online ofte oversættes til det mest horribel misbrug i det virkelige liv.

Det er afgørende, at vi konfronterer seksuelt misbrug af børn både online og offline for at forbedre offentlig sikkerhed mod nye og udviklende forbrydelser. " Regeringen tilføjede, at prædatorer anvender AI til at maskere deres identitet og kan bruge falske billeder til at afpresse børn og tvinge dem til yderligere misbrug, herunder gennem live-streaming. De nye lovovertrædelser vil dække besiddelse, skabelse eller distribution af AI-værktøjer, der er beregnet til produktion af materiale til seksuelt misbrug af børn. Derudover vil besiddelse af såkaldte AI "pædofil-manualer, " som instruerer i brugen af ​​denne teknologi, også blive kriminaliseret. Der vil blive etableret en specifik lovovertrædelse for drift af hjemmesider, der letter distributionen af ​​indhold om seksuelt misbrug af børn, og myndighederne vil blive bemyndiget til at låse op for digitale enheder til undersøgelse. Disse initiativer vil indgå som en del af lovforslaget om kriminalitet og politi, der skal præsenteres i parlamentet. Tidligere på måneden annoncerede Storbritannien også planer om at gøre skabelse og deling af seksuelt eksplicitte "deepfakes"—AI-genererede videoer, billeder eller lyd, der ser ægte ud—til en kriminalforseelse.