Britain mengumumkan pada hari Sabtu bahawa ia akan mengkriminalisasi penggunaan alat kecerdasan buatan yang direka untuk menghasilkan imej penyalahgunaan seksual kanak-kanak, menjadi negara pertama di dunia yang menetapkan kesalahan baru berkaitan AI untuk penyalahgunaan seksual. Di bawah undang-undang semasa di England dan Wales, adalah haram untuk memiliki, mencipta, berkongsi, atau memaparkan imej eksplisit kanak-kanak. Kesalahan yang akan datang secara khusus menangani penggunaan AI untuk memanipulasi imej sebenar kanak-kanak menjadi kandungan eksplisit. Keputusan ini datang sebagai respons kepada peningkatan ketara dalam penggunaan AI oleh penjenayah dalam talian untuk menghasilkan bahan penyalahgunaan kanak-kanak, dengan laporan menunjukkan bahawa imej eksplisit tersebut telah meningkat hampir lima kali ganda pada tahun 2024, menurut Internet Watch Foundation. Yvette Cooper, menteri dalam negeri UK, menyatakan, “Kami tahu bahawa tindakan pemangsa yang terpesong dalam talian sering diterjemahkan kepada penyalahgunaan paling mengerikan dalam kehidupan nyata.

Adalah penting untuk kita menghadapi penyalahgunaan seksual kanak-kanak baik dalam talian mahupun luar talian untuk meningkatkan keselamatan awam terhadap jenayah baru dan yang sedang berkembang. ” Kerajaan menambah bahawa pemangsa menggunakan AI untuk menyembunyikan identiti mereka dan mungkin menggunakan imej palsu untuk memeras ugut kanak-kanak, memaksa mereka untuk mengalami penyalahgunaan selanjutnya, termasuk melalui siaran langsung. Kesalahan baru ini akan merangkumi pemilikan, penciptaan, atau pengedaran alat AI yang dimaksudkan untuk penghasilan bahan penyalahgunaan seksual kanak-kanak. Selain itu, pemilikan so-called "manual pedofil" AI, yang menerangkan cara menggunakan teknologi ini, juga akan dikenakan hukuman jenayah. Akan ada kesalahan khusus untuk mengendalikan laman web yang memudahkan pengedaran kandungan penyalahgunaan seksual kanak-kanak, dan pihak berkuasa akan diberi kuasa untuk membuka kunci peranti digital untuk pemeriksaan. Inisiatif ini akan menjadi sebahagian daripada Rang Undang-Undang Jenayah dan Penguatkuasaan yang akan dibentangkan di parlimen. Awal bulan ini, Britain juga mengumumkan rancangan untuk menjadikan penciptaan dan perkongsian “deepfake” seksual—video, imej, atau audio yang dihasilkan AI yang kelihatan nyata—sebagai kesalahan jenayah.