A brit kormány "világvezető" jogszabályokat jelentett be, amelyek kriminalizálják azokat az AI eszközöket, amelyeket gyermek szexuális zaklatás anyagának (CSAM) létrehozására használnak, és célba veszik az AI "pedofil kézikönyvek" birtoklását, amelyek útmutatást adnak az embereknek arról, hogyan lehet kihasználni a gyerekeket AI segítségével. A közelmúlt figyelmeztetései arra utalnak, hogy növekvő trend figyelhető meg a zavaróan valósághű, AI által generált bántalmazási képek előállításában, ami jelentős veszélyt jelent a gyerekekre. A jelenlegi törvények már illegálissá teszik az AI által generált CSAM birtoklását, de az új intézkedések a létrehozás és terjesztés megakadályozására összpontosítanak. A kulcsfontosságú változások a következők: - Tilos az AI eszközök birtoklása, létrehozása vagy terjesztése CSAM generálására, a büntetések akár öt év börtönt is kiszabhatnak. - Tilos AI "pedofil kézikönyvek" birtoklása, amiért akár három év börtön is kiszabható. Jess Phillips, a gyermekvédelemért felelős miniszter kijelentette, hogy az Egyesült Királyság globális precedenst teremt az AI által generált bántalmazási képek kezelésével. Yvette Cooper belügyminiszter megjegyezte, hogy az AI súlyosbítja az online gyermek szexuális zaklatást, ami "extrémebbé és szadistábbá" teszi azt. Az AI eszközöket vélhetően arra használják, hogy valós képeket módosítsanak a gyerekekről vagy létező bántalmazási képeket manipuláljanak, ami zsarolási esetekhez vezetett az áldozatok ellen.

Az NSPCC aggasztó eseteket jelentett, köztük egy 15 éves lányt, aki valósághű hamis meztelen képeket talált magáról online. Ráadásul a jogszabály célja egy új bűncselekmény létrehozása az olyan weboldalak üzemeltetői számára, ahol gyermekkihasználási tartalmakat osztanak meg, ami akár 10 év börtönt vonhat maga után. Az Egyesült Királyság Határőrsége jogosult lesz megvizsgálni azoknak az eszközeit, akik gyanúba keveredtek a gyermekekre jelentett kockázatok miatt. Ez a kezdeményezés a közelgő Bűnügyi és Rendészeti Törvényjavaslat része lesz. A CSAM képek növekvő előfordulásával – egyedül egy 2024-es felmérés során 3, 512 esetet azonosítottak – az Internet Watch Foundation támogatja ezeket a jogszabályi változtatásokat, hangsúlyozva azok létfontosságú szerepét a gyermekek online biztonságának növelésében.