Den Haag — Inisiatif global telah mengakibatkan setidaknya 25 penangkapan terkait dengan konten penyalahgunaan seksual anak yang dibuat oleh kecerdasan buatan dan dibagikan secara online, lapor Europol pada hari Jumat. "Operasi Cumberland merupakan salah satu kasus awal yang melibatkan materi eksploitasi seksual anak yang dihasilkan oleh AI, yang menimbulkan tantangan signifikan bagi penyelidik karena tidak adanya undang-undang nasional yang mengatur pelanggaran ini, " ungkap agensi polisi Eropa yang berkantor pusat di Den Haag. Sebagian besar penangkapan terjadi pada hari Rabu selama operasi global yang dipimpin oleh polisi Denmark, yang juga melibatkan penegak hukum dari UE, Australia, Inggris, Kanada, dan Selandia Baru. Europol mencatat bahwa agensi penegak hukum AS tidak berpartisipasi dalam operasi ini. Inisiatif ini mengikuti penangkapan pada November lalu terhadap tersangka utama, seorang warga negara Denmark yang mengoperasikan platform online untuk mendistribusikan materi yang dihasilkan AI. Dengan "pembayaran simbolis online, " pengguna di seluruh dunia dapat memperoleh kata sandi untuk mengakses platform tersebut dan melihat kasus penyalahgunaan anak, menurut Europol. Europol memperingatkan bahwa eksploitasi seksual anak secara online terus menjadi salah satu bentuk kejahatan siber yang paling mengkhawatirkan di dalam Uni Eropa. Ini tetap menjadi prioritas utama bagi agensi penegak hukum yang menangani volume konten ilegal yang meningkat, dan penangkapan tambahan diharapkan seiring berjalannya penyelidikan. Sementara Europol menunjukkan bahwa Operasi Cumberland berfokus pada sebuah platform dan individu yang membagikan konten yang sepenuhnya dibuat menggunakan AI, ada juga peningkatan yang mengkhawatirkan dalam citra "deepfake" yang dimanipulasi AI secara online, sering kali menampilkan gambar individu nyata, termasuk anak-anak, yang dapat memiliki dampak serius pada kehidupan mereka. Laporan CBS News oleh Jim Axelrod pada bulan Desember menyoroti kisah seorang gadis yang menjadi target penyalahgunaan oleh teman sekelasnya, menyebutkan bahwa ada lebih dari 21. 000 gambar atau video pornografi deepfake online pada tahun 2023, menandai peningkatan lebih dari 460% dibandingkan tahun sebelumnya. Konten yang dimanipulasi ini telah melonjak di seluruh internet saat pembuat undang-undang di AS dan negara lain berusaha mengembangkan legislasi baru untuk mengatasi masalah ini. Baru-baru ini, Senat mengesahkan undang-undang bipartisan yang dikenal sebagai "Undang-Undang TAKE IT DOWN, " yang, jika disahkan, akan menjadikan ilegal untuk menerbitkan gambar intim yang tidak disetujui (NCII), termasuk NCII yang dihasilkan AI (atau "pornografi balas dendam deepfake").

Ini juga akan mewajibkan platform media sosial dan yang serupa untuk menetapkan prosedur untuk menghapus konten semacam itu dalam waktu 48 jam setelah menerima pemberitahuan dari korban. Saat ini, beberapa platform media sosial tampaknya tidak mampu atau tidak mau secara efektif mengatasi penyebaran konten deepfake seksual yang dihasilkan AI, termasuk gambar palsu dari selebriti. Pada pertengahan Februari, Meta, perusahaan induk Facebook dan Instagram, mengindikasikan bahwa mereka telah menghapus lebih dari selusin gambar seksual palsu yang menampilkan aktor dan atlet perempuan terkenal setelah sebuah investigasi CBS News mengungkap tingginya prevalensi gambar deepfake yang dimanipulasi AI di Facebook. "Ini adalah tantangan di seluruh industri, dan kami terus bekerja untuk meningkatkan teknologi deteksi dan penegakan kami, " kata juru bicara Meta, Erin Logan, dalam pernyataan email yang dikirimkan kepada CBS News saat itu.