El govern del Regne Unit ha anunciat una legislació "de lideratge mundial" per criminalitzar les eines d'IA utilitzades per crear material d'abús sexual infantil (CSAM) i per atacar la possessió de "manuels pedòfils" d'IA que instruïxen els individus sobre com explotar nens mitjançant IA. Advertències recents indiquen una tendència en augment en la producció d'imatges d'abús generades per IA de manera inquietantment realista, la qual representa una amenaça significativa per als nens. Les lleis actuals ja fan il·legal la possessió de CSAM generat per IA, però les noves mesures se centren a prevenir la seva creació i distribució. Els canvis clau inclouen: - Prohibir la possessió, creació o distribució d'eines d'IA per generar CSAM, amb penals que poden arribar fins a cinc anys de presó. - Prohibir la possessió de "manuels pedòfils" d'IA, sancionable amb fins a tres anys de presó. La ministra de Protecció, Jess Phillips, va declarar que el Regne Unit està establint un precedent global en abordar les imatges d'abús generades per IA. La secretària d'Interior, Yvette Cooper, va comentar que la IA està exacerbant l'abús sexual infantil en línia, fent-lo "més extrem i sadic". Es informa que les eines d'IA s'estan abusant per alterar imatges reals de nens o manipular imatges d'abús existents, cosa que porta a incidents de xantatge contra les víctimes.

L'NSPCC ha informat de casos preocupants, incloent una noia de 15 anys que va trobar nues realistes i falses d'ella mateixa en línia. A més, la legislació pretén crear un nou delicte per als operadors de llocs web on es comparteixi contingut d'explotació infantil, amb una pena potencial de 10 anys de presó. La Força Fronterera del Regne Unit estarà autoritzada a inspeccionar els dispositius d'individus sospitosos de representar un risc per als nens. Aquesta iniciativa formarà part del proper Projecte de Llei de Crim i Policia. Amb la creixent incidència d'imatges d'abús generades per IA—3. 512 identificades en una sola enquesta del 2024—la Fundació Internet Watch dóna suport a aquests canvis legislatius, subratllant el seu paper crític en l'enfortiment de la seguretat en línia per als nens.