Le gouvernement a introduit quatre nouvelles lois visant à lutter contre la menace des images d'abus sexuels sur des enfants générées par l'intelligence artificielle (IA). Le ministère de l'Intérieur a annoncé que le Royaume-Uni deviendra le premier pays à criminaliser la possession, la création ou la distribution d'outils d'IA conçus pour générer du matériel d'abus sexuels sur des enfants (CSAM), les contrevenants risquant jusqu'à cinq ans de prison. De plus, posséder des manuels d'IA qui instruisent les utilisateurs sur la manière d'exploiter des enfants sera également illégal, avec une peine pouvant aller jusqu'à trois ans. La ministre de l'Intérieur, Yvette Cooper, a souligné la nécessité d'aligner les lois sur les menaces en ligne en évolution afin de protéger les enfants des abus horribles qui se produisent également fréquemment hors ligne. D'autres lois proposées comprennent la criminalisation de l'exploitation de sites web permettant aux pédophiles de partager du CSAM ou de fournir des conseils pour le grooming, passible de peines allant jusqu'à dix ans de prison. La Border Force aura également le pouvoir d'exiger que des appareils numériques soient déverrouillés pour inspection auprès d'individus suspectés de représenter un risque pour les enfants en entrant au Royaume-Uni. Le CSAM généré par l'IA comprend des images qui peuvent être entièrement ou partiellement générées par ordinateur, utilisant parfois les voix d'enfants de la vie réelle, ré-victimisant ainsi les survivants.

Ces images fausses sont également exploitées pour faire du chantage et contraindre les enfants à des abus supplémentaires. L'Agence nationale de la criminalité a rapporté environ 800 arrestations mensuelles liées aux menaces sur les enfants, ce qui indique que 840 000 adultes au Royaume-Uni représentent un danger pour les enfants. Bien que les experts aient salué l'initiative du gouvernement, certains estiment qu'elle aurait pu aller plus loin. La professeure Clare McGlynn a souligné des lacunes importantes, appelant à interdire les applications "nudify" et à s'attaquer à la normalisation de contenus sexuels apparaissant sur des sites pornographiques grand public, qui présentent souvent des représentations enfantines. La Internet Watch Foundation a révélé une augmentation de 380 % des signalements de CSAM, preuve de la disponibilité croissante de telles images générées par l'IA. Les experts mettent en garde que le caractère réaliste du CSAM généré par l'IA complique la distinction entre les images réelles et fausses. Des dirigeants d'organisations comme Barnardo's et l'IWF ont également exprimé la nécessité pour les entreprises technologiques de garantir des plateformes plus sûres pour les enfants. Les nouvelles lois seront intégrées dans le prochain projet de loi sur la criminalité et le maintien de l'ordre, qui sera bientôt présenté au Parlement.