Владата на Велика Британија најави „светски водечко“ законодавство за криминализирање на AI алатките што се користат за создавање материјал за сексуална злоупотреба на деца (CSAM) и за насочување кон поседување на AI „педофилски раководства“ кои ги инструираат поединците како да експлоатираат деца користејќи AI. Последните предупредувања укажуваат на растечка тенденција во производството на вознемирувачки реалистични AI-создадени слики на злоупотреба, што претставува значителна закана за децата. Тековните закони веќе го прават незаконито поседувањето на AI-создаден CSAM, но новите мерки се фокусираат на спречување на неговото создавање и распрснување. Клучните промени вклучуваат: - Забрана за поседување, создавање или распределба на AI алатки за генерирање CSAM, со казни до пет години затвор. - Забрана за поседување на AI „педофилски раководства“, што може да се казни со до три години затвор. Министерката за заштита, Џес Филипс, изјави дека Велика Британија поставува глобален преседан со адресирање на AI-создадените слики на злоупотреба. Министерката за внатрешни работи, Јвет Коопер, напомена дека AI го влошува онлајн сексуалната злоупотреба на деца, правејќи ја „повеќе екстремна и садистичка. “ Извештаи укажуваат на тоа дека AI алатките се злоупотребуваат за измена на реални слики на деца или манипулирање со постојни слики на злоупотреба, што доведува до инциденти на шантирање на жртви.

NSPCC извести за вознемирувачки случаи, вклучувајќи 15-годишно девојче кое на интернет пронашло реалистични лажни нудења на себе. Понатаму, законодавството има за цел да создаде ново кривично дело за операторите на веб-страници каде што се споделува содржај за експлоатација на деца, со казна од потенцијални 10 години затвор. Граничната служба на Велика Британија ќе биде овластена да прегледува уреди на лица за кои се сомнева дека претставуваат ризик за децата. Оваа иницијатива ќе биде дел од предлогот за закон за криминал и полиција. Со зголемениот број на инстанци на AI-создадени слики на злоупотреба—3, 512 идентификувани во една анкета за 2024 година—Фондацијата за интернет надзор ги поддржува овие законодавни промени, нагласувајќи ја нивната критична улога во подобрувањето на безбедноста на децата на интернет.