Santa Barbara Independent menampilkan kembali cerita dari CalMatters. org yang membahas isu-isu negara bagian dan lokal yang memengaruhi pembaca di Santa Barbara County. Jaksa Agung California Rob Bonta mengumumkan penyelidikan terhadap Elon Musk’s X dan xAI atas tuduhan bahwa teknologi mereka memungkinkan penyebaran gambar tanpa izin yang bersifat pornografi, baik yang naked maupun seksual, dalam beberapa minggu terakhir. Dilaporkan bahwa xAI telah memperbarui alat Grok AI bulan lalu untuk memasukkan kemampuan pengeditan gambar, yang dimanfaatkan pengguna di X untuk menghapus pakaian dari foto wanita dan anak-anak. Bonta mengutuk meningkatnya laporan yang mengungkapkan peran xAI dalam menghasilkan dan memposting konten seksual tak berizin secara online, menekankan gangguan yang ditimbulkannya. Ia mendesak perusahaan untuk bertindak segera dan mengundang warga California yang terkena dampak gambar seperti itu untuk melaporkannya melalui situs web jaksa agung. xAI tidak berkomentar mengenai penyelidikan saat dihubungi. Penelitian Bloomberg menunjukkan bahwa pengguna X yang memakai Grok memposting lebih banyak gambar pornografi tanpa izin dibandingkan platform lain. Musk berjanji akan memberi konsekuensi bagi pembuat konten ilegal, dan baru-baru ini Grok membatasi pengeditan gambar hanya untuk pelanggan berbayar. Sebuah undang-undang California yang baru disahkan, AB 621, mewajibkan para pencipta dan penyebar pornografi “deepfake” secara hukum bertanggung jawab, dan xAI tampaknya melanggar undang-undang ini, menurut ahli hukum Sam Dordulian. Anggota DPR Rebecca Bauer-Kahan, penulis undang-undang tersebut, menyatakan bahwa AB 621 dirancang untuk mengatasi penyalahgunaan seperti yang saat ini terjadi di X, sambil menyoroti kerusakan psikologis dan reputasi yang parah bagi korban, termasuk anak-anak yang dieksploitasi dalam materi pelecehan seksual. Penyelidikan Bonta mengikuti seruan serupa dari Gubernur Gavin Newsom, reaksi regulasi di Uni Eropa dan India, serta pelarangan X di Malaysia, Indonesia, dan mungkin Inggris. Dengan meningkatnya unduhan aplikasi Grok di toko Apple dan Google, para pembuat kebijakan dan advokat mendesak perusahaan-perusahaan ini untuk melarang aplikasi tersebut. Alasan di balik pilihan desain Grok dan tanggapannya terhadap kontroversi masih belum jelas, ditambah dengan analisis yang menempatkannya di antara sistem AI paling tidak transparan. Bukti nyata kerugian dari deepfake semakin meningkat. Pada 2024, FBI memperingatkan peningkatan kasus pemerasan yang melibatkan deepfake yang menargetkan remaja, terkait dengan luka diri dan bunuh diri. Audit menemukan materi pelecehan seksual anak dalam data pelatihan AI, yang memungkinkan pembuatan gambar eksplisit. Survei dari Center for Democracy and Technology menemukan bahwa 15% dari siswa SMA mengetahui atau pernah melihat gambar eksplisit secara seksual dari teman sebaya dalam setahun terakhir. Penyelidikan ini bergabung dengan upaya berkelanjutan Jaksa Agung Bonta untuk melindungi remaja dari bahaya AI.

Tahun lalu, ia mendukung sebuah RUU yang melarang chatbot berinteraksi dengan anak di bawah umur dalam percakapan yang mendorong menyakiti diri atau bersifat seksual, dan bergabung dengan 44 negara bagian dalam menuntut penjelasan dari perusahaan seperti Meta dan OpenAI mengenai perilaku chatbot yang tidak pantas terhadap anak di bawah umur. Sejak 2019, California telah mengesahkan beberapa undang-undang yang melindungi dari deepfake. AB 621 mengubah dan memperkuat langkah-langkah sebelumnya dengan memungkinkan jaksa penuntut untuk menuntut perusahaan yang “ceroboh” dalam memfasilitasi distribusi deepfake tanpa izin, serta memberi individu hak untuk mengambil tindakan hukum melalui otoritas setempat. Undang-undang ini meningkatkan potensi ganti rugi dari $150. 000 menjadi $250. 000 dan menjatuhkan denda sebesar $25. 000 per pelanggaran untuk situs web yang tidak patuh. Beberapa undang-undang lain di 2024 (AB 1831 dan SB 1381) memperluas definisi pornografi anak termasuk materi yang dibuat oleh AI dan mengharuskan platform media sosial menyediakan proses penghapusan yang sederhana untuk deepfake, serta mengklasifikasikan postingan tersebut sebagai pencurian identitas digital. Sementara itu, undang-undang yang membatasi penggunaan deepfake dalam Pemilu dibatalkan oleh hakim federal tahun lalu setelah digugat oleh X dan Musk. Meski ada kemajuan hukum, para ahli seperti Dordulian berpendapat bahwa reformasi lebih banyak diperlukan, karena membuktikan pelanggaran sulit dilakukan saat gambar eksplisit dibagikan secara pribadi atau tidak secara luas didistribusikan. Kasus seperti pengasuh yang menemukan gambar manipulatif dirinya yang dibuat oleh klien menunjukkan bagaimana hukum saat ini mungkin memaksa korban bergantung pada klaim kelalaian daripada undang-undang khusus tentang deepfake. Korban mencatat adanya celah antara “pembuatan” dan “pendistribusian” dalam hukum yang ada, yang membatasi perlindungan. Jennifer Gibson, pendiri bersama Psst, sebuah kelompok hukum pro bono untuk pelapor teknologi, menyebutkan bahwa sementara California melindungi pelapor yang mengungkap risiko besar dari AI, undang-undang tersebut tidak mencakup mereka yang mengungkap bahaya terkait deepfake. Jika perlindungan ini termasuk deepfake, mantan karyawan X yang melaporkan pembuatan konten ilegal oleh Grok mungkin mendapatkan perlindungan hukum untuk whistleblowing. Gibson menegaskan perlunya perlindungan yang lebih kuat agar insider dapat melaporkan penyalahgunaan yang dapat diperkirakan, demi akuntabilitas perusahaan dan keselamatan publik. Singkatnya, California secara agresif menanggapi bahaya yang ditimbulkan oleh penciptaan dan penyebaran gambar deepfake ilegal dan eksplisit melalui penyelidikan dan legislasi terkini. Namun, para advokat menekankan bahwa reformasi dan transparansi lebih lanjut sangat penting untuk melindungi korban secara efektif dan menuntut perusahaan bertanggung jawab.