Pemerintah Inggris telah mengumumkan legislasi "terdepan di dunia" untuk mengkriminalisasi alat AI yang digunakan untuk membuat materi penyalahgunaan seksual anak (CSAM) dan untuk menargetkan kepemilikan "panduan pedofilia" AI yang menginstruksikan individu tentang cara mengeksploitasi anak menggunakan AI. Peringatan terbaru menunjukkan adanya tren peningkatan dalam produksi gambar penyalahgunaan yang dihasilkan oleh AI yang sangat realistis, yang merupakan ancaman signifikan bagi anak-anak. Undang-undang yang ada saat ini sudah menjadikan kepemilikan CSAM yang dihasilkan oleh AI sebagai tindakan ilegal, tetapi langkah-langkah baru ini berfokus pada pencegahan penciptaan dan distribusinya. Perubahan kunci termasuk: - Melarang kepemilikan, penciptaan, atau distribusi alat AI untuk menghasilkan CSAM, dengan hukuman mencapai lima tahun penjara. - Melarang kepemilikan "panduan pedofilia" AI, yang dapat dihukum dengan penjara hingga tiga tahun. Menteri Perlindungan Jess Phillips menyatakan bahwa Inggris menetapkan preseden global dengan menangani gambar penyalahgunaan yang dihasilkan oleh AI. Sekretaris Dalam Negeri Yvette Cooper menambahkan bahwa AI memperburuk penyalahgunaan seksual anak secara online, menjadikannya "lebih ekstrem dan sadis. " Alat AI dilaporkan disalahgunakan untuk mengubah gambar nyata anak-anak atau memanipulasi gambar penyalahgunaan yang sudah ada, yang menyebabkan insiden pemerasan terhadap korban.

NSPCC melaporkan kasus-kasus yang menyedihkan, termasuk seorang gadis berusia 15 tahun yang menemukan gambar telanjang palsu realistis dirinya secara online. Selain itu, legislasi ini bertujuan untuk menciptakan pelanggaran baru bagi operator situs web tempat konten eksploitasi anak dibagikan, dengan hukuman penjara yang bisa mencapai 10 tahun. Angkatan Batas Inggris akan diberdayakan untuk memeriksa perangkat individu yang dicurigai membahayakan anak-anak. Inisiatif ini akan menjadi bagian dari RUU Kejahatan dan Kepolisian yang akan datang. Dengan semakin banyaknya insiden gambar penyalahgunaan yang dihasilkan oleh AI—3. 512 diidentifikasi dalam satu survei 2024 saja—Yayasan Pengawasan Internet mendukung perubahan legislasi ini, menekankan perannya yang sangat penting dalam meningkatkan keselamatan online bagi anak-anak.