SACRAMENTO, Calif. (AP) — Pada hari Selasa, Gabenor California Gavin Newsom mengesahkan tiga undang-undang baharu yang bertujuan untuk membendung penggunaan kecerdasan buatan untuk mencipta imej atau video palsu dalam iklan politik menjelang pilihan raya 2024. Salah satu undang-undang, yang berkuat kuasa serta-merta, melarang penciptaan dan penyebaran deepfake berkaitan pilihan raya dalam tempoh 120 hari sebelum Hari Pilihan Raya dan selama 60 hari selepasnya. Undang-undang tersebut memberi kuasa kepada mahkamah untuk menghentikan penyebaran bahan tersebut dan mengenakan penalti sivil bagi pelanggaran. “Melindungi integriti pilihan raya adalah penting untuk demokrasi, dan kita mesti memastikan bahawa AI tidak disalahgunakan untuk mengikis kepercayaan awam melalui maklumat palsu—terutama dalam persekitaran politik semasa kita, ” kata Newsom. “Inisiatif ini akan membantu memerangi penggunaan merosakkan deepfakes dalam iklan politik dan bentuk kandungan lain, sebagai sebahagian daripada usaha proaktif negeri untuk mempromosikan AI yang telus dan boleh dipercayai. ” Selain itu, undang-undang perintis yang memerlukan platform media sosial besar untuk menghapuskan kandungan yang menipu akan berkuatkuasa tahun depan. Satu lagi rang undang-undang mengkehendaki kempen politik mendedahkan apabila mereka menggunakan bahan yang diubahsuai AI dalam iklan mereka. Penandatanganan undang-undang ini oleh Newsom disambut dengan tepukan gemuruh semasa perbincangan dengan CEO Salesforce Marc Benioff di sebuah persidangan perisian terkenal di San Francisco. Undang-undang baharu ini memperkukuhkan reputasi California sebagai peneraju dalam peraturan AI di Amerika Syarikat, terutamanya dalam memerangi deepfake pilihan raya. Negeri ini adalah yang pertama di negara ini untuk melarang kandungan berkaitan pilihan raya yang dimanipulasi pada tahun 2019.

Pakar mencatatkan bahawa cadangan California mengenai teknologi dan AI sering menjadi model bagi penggubal undang-undang di seluruh negara. Dengan AI meningkatkan risiko maklumat palsu pilihan raya di seluruh dunia, penggubal undang-undang di seluruh negara bergerak pantas untuk menangani isu ini di tengah-tengah kebimbangan bahawa kandungan yang dimanipulasi sedemikian boleh menjejaskan kepercayaan awam terhadap media. “Dengan kurang daripada 50 hari hingga pilihan raya umum, terdapat keperluan mendesak untuk melindungi daripada kandungan yang diubah suai secara digital yang boleh mengganggu pilihan raya, ” kata Ahli Dewan Gail Pellerin, pengarang undang-undang tersebut. “California mengambil sikap tegas terhadap aplikasi menipu teknologi deepfake yang bertujuan untuk mengelirukan pengundi. ” Tindakan Newsom mengikuti komitmen yang dibuat pada bulan Julai untuk menangani deepfake pilihan raya, terutamanya sebagai tindak balas kepada video yang dikongsi oleh pemilik X, Elon Musk yang menampilkan imej yang diubahsuai Naib Presiden dan calon presiden Demokrat Kamala Harris. Secara kebetulan, pada hari yang sama, ahli Kongres mengumumkan undang-undang persekutuan untuk menangani deepfake pilihan raya. Rang undang-undang ini akan memberi kuasa kepada Suruhanjaya Pilihan Raya Persekutuan untuk mengawal penggunaan AI dalam pilihan raya sama seperti yang telah mereka lakukan terhadap bentuk pemalsuan politik lain selama bertahun-tahun. FEC telah mula meneroka langkah-langkah kawal selia tersebut setelah melarang panggilan robocall yang dijana AI untuk menyekat peratusan pengundi pada Februari. Newsom telah mempromosikan California sebagai penerima awal dan pengawal selia teknologi AI, menyarankan bahawa negeri ini mungkin akan segera melaksanakan alat AI generatif untuk mengurangkan kesesakan jalan raya dan memberikan panduan cukai. Sementara itu, pentadbiran beliau juga menilai peraturan baharu untuk memerangi diskriminasi AI dalam proses pengambilan pekerja.