Britania mengumumkan pada hari Sabtu bahwa negara tersebut akan mengkriminalisasi penggunaan alat kecerdasan buatan yang dirancang untuk menghasilkan gambar penyalahgunaan seksual anak, menjadi negara pertama di dunia yang menetapkan pelanggaran baru terkait AI untuk penyalahgunaan seksual. Berdasarkan undang-undang yang berlaku di Inggris dan Wales, adalah ilegal untuk memiliki, membuat, membagikan, atau menampilkan gambar eksplisit anak-anak. Pelanggaran yang akan datang secara khusus membahas penggunaan AI untuk memanipulasi gambar nyata anak di bawah umur menjadi konten eksplisit. Keputusan ini diambil sebagai respons terhadap peningkatan signifikan dalam penggunaan AI oleh penjahat daring untuk memproduksi materi penyalahgunaan anak, dengan laporan yang menunjukkan bahwa gambar eksplisit tersebut telah meningkat hampir lima kali lipat pada tahun 2024, menurut Internet Watch Foundation. Yvette Cooper, menteri dalam negeri Inggris, menyatakan, “Kami tahu bahwa tindakan predator yang menyimpang secara daring sering kali diterjemahkan menjadi penyalahgunaan paling mengerikan di dunia nyata.

Sangat penting bagi kami untuk menghadapi penyalahgunaan seksual anak baik secara daring maupun luring untuk meningkatkan keselamatan publik terhadap kejahatan yang baru dan terus berkembang. ” Pemerintah menambahkan bahwa predator memanfaatkan AI untuk menyembunyikan identitas mereka dan mungkin menggunakan gambar palsu untuk memeras anak-anak, memaksa mereka ke dalam penyalahgunaan lebih lanjut, termasuk melalui siaran langsung. Pelanggaran baru ini akan mencakup kepemilikan, pembuatan, atau distribusi alat AI yang dimaksudkan untuk produksi materi penyalahgunaan seksual anak. Selain itu, kepemilikan yang disebut sebagai “manual pedofil” AI, yang menginstruksikan penggunaan teknologi ini, juga akan dikenakan sanksi pidana. Akan ada pelanggaran khusus untuk mengoperasikan situs web yang memfasilitasi distribusi konten penyalahgunaan seksual anak, dan pihak berwenang akan diberi wewenang untuk membuka perangkat digital untuk pemeriksaan. Inisiatif ini akan menjadi bagian dari RUU Kejahatan dan Penegakan Hukum yang akan disampaikan di parlemen. Awal bulan ini, Britania juga mengumumkan rencana untuk menjadikan pembuatan dan berbagi “deepfake” eksplisit seksual—video, gambar, atau audio yang dihasilkan oleh AI yang terlihat nyata—sebagai pelanggaran pidana.