La Gran Bretanya està a punt de convertir-se en el primer país a implementar lleis destinades a prohibir l'ús d'eines d'IA per produir imatges d'abús sexual infantil, en resposta a les alarmants advertències dels cossos de seguretat sobre l'augment ràpid del mal ús d'aquesta tecnologia. La legislació farà il·legal posseir, crear o distribuir eines d'IA dissenyades específicament per generar material d'abús sexual infantil, amb els infractors enfrontant-se a penes d'entre un i cinc anys de presó. A més, posseir manuals que instruen futurs infractors sobre com utilitzar aquestes eines d'IA també serà castigable amb fins a tres anys de presó. Una nova llei s'adreçarà a individuals que gestionen llocs web que comparteixen contingut o consells abusius, i el Cos de Fronteres obtindrà poders per obligar els infractors sospitosos a desbloquejar els seus dispositius per a la seva examinació. Aquesta mesura arriba després que la Internet Watch Foundation informés d'un augment significatiu d'imatges d'abús sexual infantil generades per IA—245 casos confirmats l'any passat, en comparació amb 51 l'any anterior. L'IA s'està utilitzant de diverses maneres, incloent l'alteració d'imatges de nens reals i l'aplicació dels seus rostres a imatges d'abús existents, així com utilitzant les seves veus.

Aquestes imatges també s'estan utilitzant per xantatge a nens, duent a situacions d'explotació més greus, i l'IA ajuda els perpetradors a ocultar les seves identitats mentre preparen les seves víctimes. Els officials de la policia subratllen que veure tals imatges està relacionat amb una major probabilitat d'abusos futurs. Les noves lleis s'inclouran en un proper projecte de llei sobre delictes i policia, amb el secretari de tecnologia reconeixent el fracàs de l'estat a abordar les aplicacions negatives de l'IA. Peter Kyle va destacar la necessitat urgent de mesures de protecció per als nens, compartint un exemple inquietant d'un adolescent víctima d'imatges nues falses. Els defensors, incloent l'NSPCC, benvinguin els canvis proposats, però subratllen la importància d'una regulació tecnològica robusta per evitar danys com aquests. Els serveis de suport estan disponibles per a nens i adults afectats a través de diverses organitzacions com l'NSPCC, Napac, i Child Helplines International.