Di seluruh negara bagian di seluruh negeri sedang mengembangkan "sandboxes" dan mendorong eksperimen dengan AI agar memungkinkan operasi yang lebih efektif dan efisien—mungkin paling baik digambarkan sebagai AI dengan tujuan tertentu. Namun, mendorong inovasi dalam pemerintahan mengandung risiko yang melekat. Di Colorado, CIO David Edinger melaporkan bahwa kantornya telah meninjau sekitar 120 usulan terkait AI untuk potensi aplikasi pemerintah negara bagian. Dia merinci proses mereka dalam menyaring pengajuan dari agensi. Di antara ide-ide yang dianggap berisiko "tinggi" menurut kerangka kerja NIST, sebagian besar penolakan memiliki masalah umum: praktik data yang tidak memenuhi standar privasi data negara bagian. Colorado tidak unik dalam memprioritaskan praktik data saat menilai calon mitra AI. Dalam sebuah diskusi dengan Government Technology pada Konferensi Tengah Tahun National Association of State Chief Information Officers (NASCIO) bulan lalu, Chief Technology Officer California Jonathan Porat menguraikan tiga faktor utama yang memandu evaluasi penggunaan AI oleh negara bagian. Di luar menilai apakah penggunaan tersebut sesuai untuk pemerintah negara bagian, pejabat juga meninjau rekam jejak teknologi dan secara cermat memeriksa data yang terlibat dalam usulan tersebut. “Apakah data yang kita gunakan sesuai untuk sistem GenAI?” tanya Porat. “Apakah data tersebut dikelola dan diamankan dengan tepat?” Transkrip video: “Saya akan mengatakan bahwa kami telah meninjau mungkin sekitar 120 usulan dari berbagai agensi untuk semua kemungkinan penggunaan, mengikuti kerangka kerja NIST—mengkategorikan sebagai risiko sedang, tinggi, atau terlarang. Penggunaan yang terlarang kami larang langsung; penggunaan berisiko sedang kami terapkan secara langsung; dan penggunaan berisiko tinggi melalui evaluasi yang lebih mendalam.

Ketika kami menolak usulan, hampir selalu bukan karena penggunaan yang dimaksudkan, tetapi karena kekhawatiran berbagi data. Khususnya, data yang dibagikan kepada penyedia berdasarkan kontrak standar yang dilarang oleh hukum negara bagian, seperti data PII, HIPAA, atau CJIS. Kami harus menolak ini bukan karena bagaimana alat tersebut digunakan, tetapi karena pengaturan berbagi data yang tidak dapat diterima. Itulah inti masalah—dan yang mengejutkan kami—masalahnya bukan pada penggunaan itu sendiri, tetapi bagaimana privasi data ditangani. ” Noelle Knell adalah editor eksekutif di e. Republic, mengawasi strategi editorial keseluruhan untuk platform-platform e. Republic, termasuk Government Technology, Governing, Industry Insider, Emergency Management, dan Center for Digital Education. Ia bergabung dengan e. Republic sejak 2011 dan memiliki pengalaman bertahun-tahun dalam penulisan, penyuntingan, dan kepemimpinan. Asal California, Noelle pernah bekerja di pemerintahan negara bagian dan lokal serta memiliki gelar dalam ilmu politik dan sejarah Amerika dari University of California, Davis.