Il Regno Unito è pronto a diventare il primo paese a implementare leggi volte a vietare l'uso di strumenti di intelligenza artificiale per la produzione di immagini di abusi sessuali su minori, in risposta a preoccupanti avvertimenti da parte delle forze dell'ordine riguardo al rapido aumento dell'uso improprio di tale tecnologia. La legislazione renderà illegale possedere, creare o distribuire strumenti di intelligenza artificiale specificamente progettati per generare materiale di abuso sessuale su minori, con i trasgressori che rischiano fino a cinque anni di carcere. Inoltre, possedere manuali che istruiscono potenziali colpevoli sull'uso di questi strumenti di intelligenza artificiale sarà punibile con pene fino a tre anni di carcere. Una nuova legge mirerà a individuare i soggetti che gestiscono siti web che condividono contenuti abusivi o consigli, e la Border Force acquisirà poteri per costringere i sospetti colpevoli a sbloccare i loro dispositivi per l'esame. Questa iniziativa arriva dopo che l'Internet Watch Foundation ha riportato un significativo aumento di immagini di abusi sessuali su minori generate dall'intelligenza artificiale: 245 casi confermati lo scorso anno, rispetto ai 51 dell'anno precedente. L'intelligenza artificiale viene utilizzata in vari modi, inclusa la modificazione di immagini di bambini reali e l'applicazione dei loro volti su immagini abusive esistenti, oltre all'uso delle loro voci.

Queste immagini vengono anche utilizzate per ricattare i bambini, portando a situazioni di sfruttamento peggiori, e l'IA aiuta i trasgressori a nascondere la propria identità mentre adescano le vittime. I funzionari di polizia sottolineano che visualizzare tali immagini è collegato a una maggiore probabilità di abusi futuri. Le nuove leggi saranno incluse in un prossimo disegno di legge su reati e polizia, con il segretario alla tecnologia che riconosce il fallimento dello stato nell'affrontare le applicazioni negative dell'IA. Peter Kyle ha evidenziato l'urgenza di misure di protezione per i bambini, condividendo un esempio angosciante di un adolescente vittimizzato da immagini false di nudo. Gli avvocati, inclusa la NSPCC, accolgono con favore le modifiche proposte, ma sottolineano l'importanza di una regolamentazione tecnologica robusta per prevenire tali danni. Servizi di supporto sono disponibili per i bambini e gli adulti colpiti attraverso varie organizzazioni come NSPCC, Napac e Child Helplines International.