Seiring dengan perkembangan AI yang pesat, pelbagai ancaman telah muncul, termasuk serangan penggodam yang menyasar bilion pengguna Gmail, risiko yang berkaitan dengan mengelakkan kawalan ketat Google Gemini terhadap arahan, dan penyalahgunaan alat AI oleh penggodam dan penjenayah siber. Namun, pada pendapat peribadi saya, kebimbangan ini tidak berbanding dengan penciptaan deepfake, terutama yang melibatkan kandungan seksual. Ini sangat membimbangkan apabila ia melibatkan bahan penyalahgunaan seksual kanak-kanak (CSAM). Mengejutkan, adalah tidak sah untuk memiliki, mencipta, atau mengedarkan alat AI yang direka untuk tujuan tersebut, tetapi ini akan berubah apabila U. K. bersiap untuk menjadi negara pertama di dunia yang melaksanakan undang-undang yang akan mengenakan hukuman penjara selama lima tahun ke atas pesalah. Seperti yang dilaporkan oleh BBC, U. K. bersedia untuk memperkenalkan empat undang-undang baru bertujuan untuk menjadikan lebih sukar bagi individu untuk menghasilkan CSAM melalui alat berkuasa AI. Jabatan Dalam Negeri U. K. telah mengumumkan bahawa ia akan menjadi negara pertama yang menjadikan pemilikan, penciptaan, atau pengedaran alat AI yang bertujuan untuk menghasilkan bahan penyalahgunaan seksual kanak-kanak sebagai jenayah.

Sebagai seorang bapa dan datuk, saya merasakan hukuman maksimum yang dicadangkan selama lima tahun penjara adalah agak ringan. BBC melaporkan bahawa memiliki manual AI untuk pedofil, yang mengajar individu tentang penggunaan AI untuk eksploitasi seksual, juga akan menjadi haram, dengan hukuman potensi hingga tiga tahun. Semasa muncul di program Ahad BBC bersama Laura Kuenssberg pada 2 Februari, Setiausaha Dalam Negeri U. K. Yvette Cooper menyatakan, "Pelaku memanfaatkan AI untuk meningkatkan kemampuan mereka menggroom atau memeras ugut remaja dan kanak-kanak, memanipulasi imej untuk menarik orang muda ke dalam penyalahgunaan lebih jauh—ini adalah tindakan yang paling mengerikan, semakin bersifat sadistik. " Lebih-lebih lagi, penggubal undang-undang U. K. tidak berhenti di situ. Kesalahan tambahan akan diperkenalkan untuk menjadikan operasi laman web yang berkongsi kandungan yang dihasilkan oleh AI sebagai jenayah, dengan hukuman sehingga 10 tahun penjara. Pasukan Sempadan U. K. juga akan menerima kuasa baru untuk membuka peranti pelancong yang tiba untuk pemeriksaan jika terdapat kecurigaan mengenai CSAM.