Komisioner kanak-kanak untuk England, Dame Rachel de Souza, mendesak kerajaan untuk mengharamkan aplikasi yang menggunakan kecerdasan buatan (AI) untuk mencipta imej lucah kanak-kanak. Beliau meminta larangan menyeluruh terhadap aplikasi yang memungkinkan "nudifikasi", di mana AI menyunting gambar orang sebenar agar nampak tidak berbaju, sambil memberi amaran bahawa kerajaan kini membenarkan aplikasi sebegitu beroperasi tanpa kawalan walaupun menyebabkan akibat serius di dunia nyata. Jurutulis kerajaan mengukuhkan bahawa bahan penderaan seksual kanak-kanak adalah haram dan mengumumkan rancangan untuk memperkenalkan kesalahan tambahan berkaitan penciptaan, pemilikan, atau pengedaran alat AI yang direka untuk menghasilkan kandungan sedemikian. Deepfake—video, gambar, atau klip audio yang dihasilkan AI yang kelihatan nyata—kian digunakan untuk menyasarkan gadis dan wanita muda, dengan banyak aplikasi disesuaikan untuk tubuh wanita, menurut laporan yang diterbitkan oleh Dame Rachel. Laporan tersebut menyoroti bahawa gadis kian mengelakkan dari memuat naik imej atau berinteraksi dalam talian untuk mengurangkan risiko, serupa dengan langkah keselamatan di luar talian seperti mengelak berjalan sendiri pulang pada waktu malam. Kanak-kanak takut menjadi sasaran oleh strangers, rakan sebaya, atau bahkan kawan melalui teknologi yang tersedia di platform carian dan media sosial yang popular. Dame Rachel menegaskan bahawa evolusi pantas dan skala alat AI ini membawa bahaya yang sangat besar, dan menekankan keperluan mengambil tindakan daripada membiarkan aplikasi ini merosakkan kehidupan kanak-kanak. Di bawah Akta Keselamatan Dalam Talian, perkongsian atau ancaman untuk berkongsi imej deepfake yang lucah adalah haram. Kerajaan mengumumkan pada Februari undang-undang baru untuk memerangi gambar penderaan seksual kanak-kanak yang dihasilkan AI, termasuk melarang pemilikan, penciptaan, atau pengedaran alat AI yang digunakan untuk menghasilkan bahan tersebut.

Bagaimanapun, Dame Rachel berpendapat langkah ini tidak mencukupi, dan menuntut larangan penuh terhadap aplikasi "nudifikasi", bukan sekadar yang dikategorikan sebagai penghasil bahan penderaan seksual kanak-kanak. Internet Watch Foundation (IWF) melaporkan peningkatan sebanyak 380% dalam kes penderaan seksual kanak-kanak yang dihasilkan AI pada tahun 2024 berbanding 2023, dengan 245 laporan tahun ini berbanding 51 sebelumnya. Ketua Pegawai Eksekutif Sementara IWF, Derek Ray-Hill, menyatakan bahawa aplikasi sebegini sedang disalahgunakan di sekolah, dengan imej yang cepat menjadi sukar dikawal. Jurucakap Jabatan Sains, Inovasi dan Teknologi mengecam penciptaan dan pengedaran bahan penderaan seksual kanak-kanak yang dihasilkan AI sebagai sesuatu yang jijik dan haram, dengan menyebut platform mesti mengeluarkan kandungan tersebut di bawah Akta Keselamatan Dalam Talian atau berdepan denda besar. UK adalah negara pertama yang memperkenalkan kesalahan berkaitan penderaan seksual kanak-kanak yang khusus melibatkan AI. Dame Rachel juga mendesak kerajaan mengenakan kewajipan undang-undang kepada pemaju AI untuk mengenal pasti dan mengurangkan risiko kepada kanak-kanak, mewujudkan proses sistematik untuk menghilangkan imej deepfake lucah kanak-kanak dari internet, serta secara rasmi mengiktiraf penderaan seksual deepfake sebagai bentuk keganasan terhadap wanita dan gadis. Paul Whiteman, Setiausaha Agung Kesatuan Pemimpin Sekolah NAHT, mengulangi kebimbangan ini, menegaskan keperluan segera mengkaji semula bidang ini kerana teknologi berisiko mengatasi undang-undang dan pendidikan sedia ada. Selain itu, pengawal selia media, Ofcom, telah selesai menyusun Kod Kanak-kanak, yang memerlukan platform yang menyiarkan bahan pornografi dan kandungan berbahaya melaksanakan pemeriksaan umur yang lebih ketat atau berdepan denda. Namun, Dame Rachel mengkritik kod tersebut kerana lebih mementingkan kepentingan perniagaan syarikat teknologi berbanding keselamatan kanak-kanak.