Hela landet utvecklar "sandlådor" och uppmuntrar till experimentation med AI för att möjliggöra mer effektiva och ändamålsenliga operationer – kanske bäst beskrivet som AI med ett syfte. Men att främja innovation inom myndigheter medför inneboende risker. I Colorado rapporterade CIO David Edinger att hans kontor har granskat ungefär 120 förslag relaterade till AI för potentiella tillämpningar inom statlig förvaltning. Han beskrev deras process för att granska myndighetsinlämningar. Bland idéer som bedöms som "högrisk" enligt NIST-ramverket delar de flesta avvisningarna ett gemensamt problem: datahanteringar som inte uppfyller statens dataskyddsstandarder. Colorado är inte ensam om att prioritera dataskydd vid bedömning av potentiella AI-partners. Under en diskussion med Government Technology vid förra månadens Midyear Conference för National Association of State Chief Information Officers (NASCIO) beskriver Kaliforniens Chief Technology Officer Jonathan Porat tre nyckelfaktorer som styr statens utvärdering av AI-ändamål. Utöver att bedöma om användningsområdet är lämpligt för statlig förvaltning, granskar tjänstemännen teknologiens meriter och undersöker noggrant den data som är involverad i förslaget. "Är de data vi använder lämpliga för ett GenAI-system?" frågade Porat. "Är de ordentligt styrda och säkrade?" Videotranskription: "Jag skulle säga att vi hittills har granskat kanske 120 förslag över alla myndigheter för alla möjliga användningsområden, enligt NIST-ramverket – kategoriserat som medelhögrisk, högrisk eller förbjuden risk. Förbjudna användningar förbjuder vi helt; medelhögriskanvändningar implementerar vi direkt; och högriskanvändningar genomgår en mer grundlig utvärdering.

När vi avvisar förslag är det nästan alltid inte på grund av användningens syfte, utan på grund av datadelning. Specifikt data som delas med leverantörer under standardavtal som är förbjudna enligt lag, såsom PII, HIPAA eller CJIS-data. Vi måste neka detta inte på grund av hur verktyget är tänkt att användas, utan på grund av att datadelningarna är oacceptabla. Det är egentligen kärnfrågan – och något som förvånade oss – problemet ligger inte i själva användningen, utan i hur dataskyddet hanteras. " Noelle Knell är den verkställande redaktören på e. Republic, ansvarig för den övergripande redaktionella strategin för e. Republics plattformar, inklusive Government Technology, Governing, Industry Insider, Emergency Management och Center for Digital Education. Hon har varit på e. Republic sedan 2011 och har decennier av erfarenhet av skrivande, redigering och ledarskap. En infödd kalifornienare, har Noelle arbetat inom både statlig och lokal förvaltning och har examen i statsvetenskap och amerikansk historia från University of California, Davis.