Británie se chystá stát první zemí, která zavedou zákony zaměřené na zákaz používání nástrojů umělé inteligence pro výrobu obrazů sexuálního zneužívání dětí v reakci na alarmující varování od orgánů činných v trestním řízení ohledně rychlého nárůstu zneužívání této technologie. Legislativa učiní nelegálním vlastnit, vytvářet nebo distribuovat nástroje umělé inteligence navržené speciálně k generování materiálu sexuálního zneužívání dětí, přičemž pachatelé budou čelit až pěti letům vězení. Kromě toho bude také trestné vlastnit příručky, které instruují potenciální pachatele, jak tyto nástroje umělé inteligence používat, s trestem až tři roky vězení. Nový zákon se zaměří na jedince spravující webové stránky, které sdílejí zneužívající obsah nebo rady, a Pohraniční stráž získá pravomoci donutit podezřelé pachatele odemknout svá zařízení pro vyšetření. Tento krok následuje poté, co Internet Watch Foundation oznámila významný nárůst obrazů sexuálního zneužívání dětí generovaných umělou inteligencí — v loňském roce bylo potvrzeno 245 případů, zatímco rok předtím to bylo 51. Umělá inteligence je zneužívána různými způsoby, včetně úprav obrázků skutečných dětí a aplikace jejich obličejů na existující zneužívající obrázky, stejně jako používání jejich hlasů.

Tyto obrázky jsou také používány k vydírání dětí, což vede k horším situacím zneužívání, a umělá inteligence pomáhá pachatelům skrýt jejich identitu při manipulaci s oběťmi. Policisté zdůrazňují, že sledování takových obrazů souvisí se zvýšenou pravděpodobností budoucího zneužívání. Nové zákony budou součástí nadcházejícího zákona o trestné činnosti a policii, přičemž ministr pro technologie uznává selhání státu v řešení negativních aplikací umělé inteligence. Peter Kyle zdůraznil naléhavou potřebu ochranných opatření pro děti a sdílel znepokojivý příklad teenagera, který byl oběťmi falešných nahých obrázků. Odborníci, včetně NSPCC, vítají navrhované změny, ale zdůrazňují důležitost robustní regulace technologií, aby se předešlo takovým škodám. Podpůrné služby jsou dostupné pro zasažené děti a dospělé prostřednictvím různých organizací, jako jsou NSPCC, Napac a Child Helplines International.