Den Haag — Inisiatif global telah menghasilkan sekurang-kurangnya 25 tangkapan berkaitan dengan kandungan penyalahgunaan seksual kanak-kanak yang dicipta oleh kecerdasan buatan dan dikongsi dalam talian, lapor Europol pada hari Jumaat. "Operasi Cumberland mewakili salah satu kes awal yang melibatkan bahan eksploitasi seksual kanak-kanak yang dihasilkan oleh AI, yang menimbulkan cabaran ketara bagi penyiasat akibat ketiadaan undang-undang nasional yang menangani kesalahan ini, " kata agensi polis Eropah yang berpangkalan di Den Haag. Kebanyakan tangkapan berlaku pada hari Rabu semasa operasi global yang diketuai oleh polis Denmark, yang juga melibatkan pihak penguatkuasa dari EU, Australia, Britain, Kanada, dan New Zealand. Agensi penguatkuasaan undang-undang AS tidak turut serta dalam operasi ini, kata Europol. Inisiatif ini susulan daripada penangkapan suspek utama pada November lalu, seorang warganegara Denmark yang mengendalikan platform dalam talian untuk menyebarkan bahan yang dihasilkan oleh AI. Dengan "bayaran simbolik dalam talian, " pengguna di seluruh dunia boleh mendapatkan kata laluan untuk mengakses platform dan melihat kes-kes penyalahgunaan kanak-kanak, menurut Europol. Europol memberi amaran bahawa eksploitasi seksual kanak-kanak dalam talian terus menjadi salah satu bentuk jenayah siber yang paling membimbangkan dalam Kesatuan Eropah. Ia tetap menjadi keutamaan utama bagi agensi penguatkuasaan undang-undang yang sedang menangani jumlah kandungan haram yang semakin meningkat, dan tangkapan tambahan dijangka berlaku semasa siasatan berjalan. Walaupun Europol menunjukkan bahawa Operasi Cumberland memberi tumpuan kepada platform dan individu yang berkongsi kandungan yang sepenuhnya dicipta menggunakan AI, terdapat juga peningkatan yang membimbangkan dalam imej "deepfake" yang dimanipulasi menggunakan AI dalam talian, seringkali menampilkan gambar individu sebenar, termasuk kanak-kanak, yang boleh memberi kesan yang serius terhadap kehidupan mereka. Laporan CBS News oleh Jim Axelrod pada bulan Disember menyoroti kisah seorang gadis yang menjadi sasaran penyalahgunaan oleh rakan sekelas, menyebut bahawa terdapat lebih daripada 21, 000 gambar atau video porografi deepfake dalam talian pada tahun 2023, menandakan peningkatan lebih daripada 460% berbanding tahun sebelumnya. Kandungan yang dimanipulasi ini telah meningkat secara mendadak di seluruh internet ketika pembuat undang-undang di AS dan negara lain berusaha untuk membangunkan undang-undang baru bagi memerangi isu ini. Baru-baru ini, Senat meluluskan rang undang-undang dua pihak yang dikenali sebagai "TAKE IT DOWN Act, " yang jika diluluskan, akan menjadikan penerbitan imej intim tanpa persetujuan (NCII), termasuk NCII yang dihasilkan oleh AI (atau "pornografi balas dendam deepfake") sebagai satu kesalahan.

Ia juga akan memerlukan media sosial dan platform serupa untuk menetapkan prosedur untuk menghapuskan kandungan sedemikian dalam tempoh 48 jam setelah menerima pemberitahuan daripada mangsa. Pada masa ini, beberapa platform media sosial nampaknya tidak mampu atau tidak ingin menangani penyebaran kandungan deepfake seksual yang dihasilkan oleh AI dengan berkesan, termasuk gambar palsu selebriti. Pertengahan Februari, Meta, syarikat induk Facebook dan Instagram, menunjukkan bahawa mereka telah menghapuskan lebih daripada belasan gambar seksual yang dipalsukan daripada pelakon dan atlet wanita terkenal setelah penyiasatan CBS News mendedahkan prevalensi tinggi imej deepfake yang dimanipulasi AI di Facebook. "Ini adalah cabaran di seluruh industri, dan kami sentiasa berusaha untuk meningkatkan teknologi pengesanan dan penguatkuasaan kami, " kata jurucakap Meta Erin Logan dalam kenyataan emel yang dihantar kepada CBS News pada waktu itu.