SACRAMENTO, Calif. (AP) — Pada hari Selasa, Gubernur California Gavin Newsom mengesahkan tiga undang-undang baru yang bertujuan untuk mengekang penggunaan kecerdasan buatan untuk membuat gambar atau video palsu dalam iklan politik menjelang pemilu 2024. Salah satu undang-undang, yang berlaku segera, melarang pembuatan dan distribusi deepfake terkait pemilu dalam waktu 120 hari sebelum Hari Pemilu dan selama 60 hari setelahnya. Legislasi ini memberi wewenang kepada pengadilan untuk menghentikan penyebaran materi semacam itu dan mengenakan sanksi sipil bagi pelanggaran. “Melindungi integritas pemilu sangat penting untuk demokrasi, dan kita harus memastikan bahwa AI tidak disalahgunakan untuk merusak kepercayaan publik melalui disinformasi—terutama dalam lingkungan politik saat ini, ” kata Newsom. “Inisiatif-inisiatif ini akan membantu memerangi penggunaan deepfake yang merusak dalam iklan politik dan bentuk konten lainnya, sebagai bagian dari upaya proaktif negara untuk mempromosikan AI yang transparan dan dapat dipercaya. ” Selain itu, undang-undang pionir yang mengharuskan platform media sosial besar untuk menghilangkan konten yang menipu akan mulai berlaku tahun depan. Undang-undang lain mewajibkan kampanye politik untuk mengungkapkan kapan mereka menggunakan materi yang diubah oleh AI dalam iklan mereka. Penandatanganan undang-undang ini oleh Newsom disambut dengan tepuk tangan meriah selama diskusi dengan CEO Salesforce Marc Benioff di sebuah konferensi perangkat lunak terkemuka di San Francisco. Undang-undang baru ini memperkuat reputasi California sebagai pelopor dalam regulasi AI di Amerika Serikat, terutama dalam memerangi deepfake pemilu. Negara bagian ini adalah yang pertama di negara tersebut melarang konten pemilu yang dimanipulasi pada tahun 2019.

Para ahli mencatat bahwa proposal California terkait teknologi dan AI seringkali menjadi model bagi pembuat undang-undang di seluruh negeri. Dengan AI yang memperkuat risiko disinformasi pemilu secara global, legislator di seluruh negeri bergerak cepat untuk mengatasi masalah ini di tengah kekhawatiran bahwa konten yang dimanipulasi semacam itu dapat merusak kepercayaan publik terhadap media. “Dengan kurang dari 50 hari hingga pemilihan umum, ada kebutuhan mendesak untuk melindungi dari konten yang dimodifikasi secara digital yang menyesatkan yang dapat mengganggu pemilu, ” kata anggota Majelis Gail Pellerin, penulis undang-undang tersebut. “California mengambil sikap tegas terhadap aplikasi teknologi deepfake yang menipu yang bertujuan untuk menyesatkan pemilih. ” Tindakan Newsom mengikuti komitmen yang dibuat pada bulan Juli untuk mengatasi deepfake pemilu, terutama sebagai tanggapan terhadap video yang dibagikan oleh pemilik X, Elon Musk, yang menampilkan gambar-gambar Wakil Presiden dan calon presiden dari Partai Demokrat Kamala Harris yang telah diubah. Secara kebetulan, pada hari yang sama, anggota Kongres merilis legislasi federal untuk mengatasi deepfake pemilu. RUU ini akan memberi wewenang kepada Komisi Pemilihan Federal untuk mengatur penggunaan AI dalam pemilu sebagaimana telah mengawasi bentuk-bentuk misrepresentasi politik lainnya selama bertahun-tahun. FEC telah mulai menjajaki langkah-langkah regulasi semacam itu setelah melarang panggilan robocall yang dihasilkan oleh AI yang bertujuan untuk menekan pemilih pada bulan Februari. Newsom telah mempromosikan California sebagai pengadopsi awal sekaligus regulator teknologi AI, menunjukkan bahwa negara bagian tersebut mungkin segera menerapkan alat generatif AI untuk mengurangi kemacetan jalan raya dan memberikan panduan pajak. Sementara itu, pemerintahannya juga sedang mengevaluasi aturan baru untuk memerangi diskriminasi AI dalam proses perekrutan.