Skandal Bogel Dijana oleh AI di Sekolah Menengah New Jersey Cetuskan Tindakan Undang-Undang

Francesca Mani ialah seorang pelajar berusia 14 tahun di Sekolah Tinggi Westfield di New Jersey apabila dia mendapati bahawa gambarnya telah dimanipulasi menjadi imej bogel menggunakan AI. Setelah dipanggil ke pejabat pengetua, dia mengetahui bahawa beberapa rakan sekelas perempuan turut menjadi sasaran. Imej-imej tersebut dibuat dengan Clothoff, sebuah laman "nudify" yang mengubah foto berpakaian menjadi bogel yang kelihatan realistik. Walaupun Clothoff mendakwa ia tidak memproses imej kanak-kanak di bawah umur dan melaksanakan sekatan umur, tiada respons diberikan terhadap pertanyaan mengenai dakwaan tersebut. Mani, walaupun tidak pernah melihat imejnya yang telah diubah, tahu bahawa salah satu gambar tersebut telah dikongsi di Snapchat antara pelajar. Dia mengkritik cara pihak sekolah memaklumkan para pelajar perempuan di hadapan umum, berbanding dengan penyingkiran secara tertutup terhadap pelajar lelaki terlibat. Pengetua sekolah kemudiannya mengirim emel kepada ibu bapa mengenai insiden itu, mendakwa imej tersebut telah dipadam dan isu tersebut disiasat, namun Mani dan ibunya, Dorota, tetap skeptikal.
Dorota membuat laporan polis, walaupun tiada pertuduhan dikenakan. Meskipun pihak daerah mengemas kini polisi mereka untuk memasukkan isu berkaitan AI, keluarga Mani merasakan bahawa akibat bagi mangsa lebih besar berbanding pencipta gambar tersebut. Pakar undang-undang, seperti Yiota Souras dari Pusat Kebangsaan untuk Kanak-kanak Hilang dan Terkesan, memberi amaran bahawa walaupun imej yang dihasilkan oleh AI palsu boleh menyebabkan kerosakan psikologi dan reputasi yang berpanjangan. Kes seperti Mani dilaporkan meluas, dengan lebih daripada 30 insiden di sekolah-sekolah AS dan di peringkat global, menonjolkan cabaran untuk membuat syarikat teknologi, terutamanya Snapchat, memadamkan kandungan tersebut dengan pantas. Jabatan Kehakiman mengklasifikasikan imej bogel AI kanak-kanak bawah umur sebagai haram jika mengandungi unsur seksual eksplisit, namun terdapat kebimbangan mengenai kekaburan, kerana beberapa imej mungkin tidak memenuhi definisi ini. Keluarga Mani sejak itu telah menyokong pelaksanaan polisi AI di sekolah-sekolah dan bekerjasama dengan Kongres untuk mempromosikan Akta Take It Down. Rang undang-undang ini, yang disokong bersama oleh Senator Ted Cruz dan Amy Klobuchar, bertujuan untuk mengenakan hukuman bagi perkongsian imej bogel AI dan mewajibkan platform media sosial untuk memadamnya dalam masa 48 jam selepas permintaan dibuat.
Brief news summary
Satu skandal telah berlaku di Sekolah Menengah Westfield selepas Francesca Mani, 14 tahun, mendapati imejnya dimanipulasi menjadi foto bogel oleh laman web AI Clothoff. Insiden ini merupakan sebahagian daripada isu yang lebih besar yang menjejaskan ramai pelajar perempuan, menimbulkan kebimbangan etika serius tentang penyalahgunaan AI apabila Clothoff semakin popular. Pelajar lelaki didakwa melihat imej bogel yang dijana AI daripada rakan mereka, malah berkongsi salah satu daripadanya di Snapchat, menyebabkan tekanan lanjut. Walaupun Clothoff mendakwa akan menghapuskan imej tersebut, Francesca dan ibunya, Dorota, meragui keberkesanan tindakan ini. Situasi ini menekankan risiko emosi dan reputasi yang dikaitkan dengan teknologi AI. Dorota telah membuat laporan polis, tetapi penyelesaian undang-undang yang komprehensif masih dalam pembangunan, menonjolkan cabaran untuk mengawal kandungan yang dijana AI. Sebagai tindak balas, dasar sekolah sedang disemak semula, dan Senator Ted Cruz dan Amy Klobuchar telah memperkenalkan Akta Take It Down, yang akan mewajibkan penghapusan gambar bogel yang dijana AI dalam masa 48 jam, untuk menghukum pengedarannya. Walaupun bilangan insiden semakin meningkat, respons syarikat teknologi adalah tidak mencukupi. Jabatan Kehakiman menganggap imej bogel yang dijana AI melibatkan kanak-kanak sebagai tidak sah di bawah undang-undang pornografi kanak-kanak tetapi mengakui bahawa undang-undang ini mungkin tidak sepenuhnya meliputi kompleksiti AI yang sedang berkembang.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!
Hot news

Senat AS Membincangkan Moratori Persekutuan menge…
Senat A.S. sedang membahaskan cadangan yang telah dipinda untuk mengenakan moratorium persekutuan selama lima tahun terhadap peraturan kecerdasan buatan (AI) di peringkat negeri berikutan kebimbangan tentang perkembangan pesat AI dan impaknya terhadap privasi, keselamatan, dan hak harta intelek.

Robinhood merancang untuk melancarkan blok rantai…
Pelangan akan memperoleh akses kepada token saham yang mewakili lebih dari 200 syarikat berbeza dan boleh berdagang mereka 24 jam sehari, lima hari seminggu.

Sovrenis Berbanding Globalis: Mengapa Janji Kekal…
Pos yang dikarang oleh Adrian Brinkn, Pengasas Bersama Anoma dan Namada, berhujah bahawa decentralisasi dalam industri blockchain sering disalah faham—ia telah menjadi slogan semata-mata berbanding objektif yang bermakna.

Siemens Melantik Pakar AI dari Amazon
Siemens, peneraju teknologi global, telah melantik Vasi Philomin, seorang eksekutif berpengalaman dari Amazon, sebagai Ketua Data dan Kecerdasan Buatan yang baharu.

Pertukaran mata wang blockchain Afrika bertujuan …
Ogbalu menegaskan bahawa syarikat penerbangan adalah fokus utama usaha pasaran untuk mempermudah pemulangan kembali pendapatan.

HPE akhirnya mendapat lampu hijau untuk membeli J…
Hewlett Packard Enterprise Co.

Dewan Rakyat AS Luluskan Rang Undang-Undang Kript…
Dewan Perwakilan Rakyat Amerika Syarikat telah menunjukkan kemajuan dengan rang undang-undang kripto bipartisan baharu yang bertujuan menggalakkan penerimaan blockchain di pelbagai sektor dan meningkatkan daya saing negara melalui sokongan persekutuan.