Il governo del Regno Unito ha annunciato una legislazione "di livello mondiale" per criminalizzare gli strumenti di intelligenza artificiale utilizzati per creare materiale di abuso sessuale infantile (CSAM) e per colpire il possesso di "manuali pedofili" sviluppati con IA, che istruiscono gli individui su come sfruttare i bambini usando l'IA. Recenti avvertimenti indicano una tendenza in aumento nella produzione di immagini di abuso generate dall'IA, disturbantemente realistiche, che pongono una minaccia significativa per i bambini. Le leggi attuali rendono già illegale il possesso di CSAM generato dall'IA, ma le nuove misure si concentrano sulla prevenzione della sua creazione e distribuzione. Le modifiche chiave includono: - Il divieto di possesso, creazione o distribuzione di strumenti di IA per generare CSAM, con pene che possono arrivare fino a cinque anni di carcere. - Il divieto di possesso di "manuali pedofili" di IA, punibile con una pena di fino a tre anni di carcere. Il Ministro della Protezione, Jess Phillips, ha dichiarato che il Regno Unito sta fissando un precedente globale affrontando le immagini di abuso generate dall'IA. Il Segretario di Stato per l'Interno, Yvette Cooper, ha osservato che l'IA sta aggravando gli abusi sessuali online sui minori, rendendoli "più estremi e sadici". Si riferisce che gli strumenti di IA vengano sfruttati impropriamente per alterare immagini reali di bambini o manipolare immagini di abuso esistenti, portando a episodi di ricatto contro le vittime.

La NSPCC ha segnalato casi preoccupanti, tra cui quello di una ragazza di 15 anni che ha trovato online nudi realistici falsi di sé stessa. Inoltre, la legislazione mira a creare un nuovo reato per gli operatori di siti web dove vengono condivisi contenuti di sfruttamento minorile, con una potenziale pena detentiva di 10 anni. La Border Force del Regno Unito avrà il potere di ispezionare i dispositivi di individui sospettati di costituire un rischio per i bambini. Questa iniziativa farà parte del prossimo Disegno di Legge su Crimine e Polizia. Con un numero crescente di immagini di abuso generate dall'IA – 3. 512 identificate in un solo sondaggio del 2024 – la Internet Watch Foundation supporta questi cambiamenti legislativi, sottolineando il loro ruolo cruciale nel migliorare la sicurezza online per i bambini.