Kerajaan UK telah mengumumkan undang-undang "memimpin dunia" untuk mengkriminalisasi alat AI yang digunakan untuk mencipta bahan penyalahgunaan seksual kanak-kanak (CSAM) dan untuk menyasarkan pemilikan "manual pedofil" AI yang mengarahkan individu tentang cara mengeksploitasi kanak-kanak menggunakan AI. Amaran terkini menunjukkan bahawa terdapat trend peningkatan dalam pengeluaran imej penyalahgunaan yang dihasilkan oleh AI yang sangat realistik, yang memberikan ancaman signifikan kepada kanak-kanak. Undang-undang semasa sudah menjadikannya haram untuk memiliki CSAM yang dihasilkan oleh AI, tetapi langkah-langkah baru ini memberi tumpuan kepada pencegahan penciptaan dan pengedarannya. Perubahan utama termasuk: - Melarang pemilikan, penciptaan, atau pengedaran alat AI untuk menjana CSAM, dengan hukuman maksimum sehingga lima tahun penjara. - Melarang pemilikan "manual pedofil" AI, yang boleh dihukum dengan penjara sehingga tiga tahun. Menteri Perlindungan Jess Phillips menyatakan bahawa UK sedang menetapkan preseden global dengan menangani imej penyalahgunaan yang dihasilkan oleh AI. Setiausaha Dalam Negeri Yvette Cooper menyatakan bahawa AI memperburuk penyalahgunaan seksual kanak-kanak dalam talian, menjadikannya "lebih ekstrem dan sadistik. " Alat AI dilaporkan disalahgunakan untuk mengubah gambar sebenar kanak-kanak atau memanipulasi imej penyalahgunaan sedia ada, yang membawa kepada kejadian pemerasan terhadap mangsa.

NSPCC telah melaporkan kes-kes yang menyedihkan, termasuk seorang gadis berusia 15 tahun yang menjumpai gambar bogel palsu dirinya yang sangat realistik dalam talian. Di samping itu, undang-undang ini bertujuan untuk mewujudkan kesalahan baru bagi pengendali laman web di mana kandungan eksploitasi kanak-kanak dikongsi, yang membawa kepada hukuman penjara maksimum 10 tahun. Pasukan Sempadan UK akan diberi kuasa untuk memeriksa peranti individu yang disyaki menimbulkan risiko kepada kanak-kanak. Inisiatif ini akan menjadi sebahagian daripada Rang Undang-Undang Jenayah dan Perpolisan yang akan datang. Dengan peningkatan kes imej penyalahgunaan yang dihasilkan oleh AI—3, 512 dikenalpasti dalam satu tinjauan 2024 sahaja—Internet Watch Foundation menyokong perubahan perundangan ini, menggariskan peranan kritikal mereka dalam meningkatkan keselamatan dalam talian bagi kanak-kanak.