Landene over hele landet udvikler "sandkasser" og opmuntrer til eksperimenter med AI for at muliggøre mere effektive og smidige operationer — måske bedst beskrevet som AI med et formål. Men fremme af innovation i offentlig forvaltning indebærer iboende risici. I Colorado rapporterede CIO David Edinger, at hans kontor har gennemgået cirka 120 AI-relaterede forslag til potentielle anvendelser i staten. Han beskrev deres proces for vurdering af agenturernes indsendelser. Blandt ideer, der vurderes som "høje" risici i henhold til NIST-rammen, deler de fleste afvisninger en fælles problemstilling: datapraksisser, der ikke opfylder statens databeskyttelsesstandarder. Colorado er ikke alene om at prioritere datapraksisser, når de vurderer potentielle AI-partnere. Under en diskussion med Government Technology ved sidste måneds National Association of State Chief Information Officers (NASCIO) midtårsmøde, skitserede Californiennes CTO Jonathan Porat tre vigtige faktorer, der styrer statens vurdering af AI-brugsområder. Udover at vurdere, om anvendelsen er passende for staten, gennemgår embedsmændenes også teknologiens historik og undersøger nøje de data, der er involveret i forslaget. "Er de data, vi bruger, egnet til et GenAI-system?" spurgte Porat. "Bliver de ordentligt styret og sikret?" Video Transskription: "Jeg vil sige, vi har gennemgået omkring 120 forslag indtil nu på tværs af alle agenturer for alle mulige anvendelser, efter NIST-rammen — kategoriseret som medium, høj eller forbudt risiko. Forbudte anvendelser forbyder vi direkte; medium-risiko anvendelser implementerer vi direkte; og højrisiko anvendelser gennemgår en mere grundig vurdering.

Når vi afviser forslag, skyldes det næsten altid ikke den tilsigtede anvendelse, men bekymringer om dataudveksling. Specifikt data, der deles med udbydere under standardkontrakter, som er forbudt ifølge statens lovgivning, såsom PII, HIPAA eller CJIS-data. Vi er nødt til at afvise disse, ikke på grund af, hvordan værktøjet er tiltænkt at blive brugt, men fordi dataudvekslingsaftalerne er uacceptable. Det er virkelig kernen i problemet — og noget, der overraskede os — problemet ligger ikke i selve anvendelsen, men i, hvordan dataprivatliv håndteres. " Noelle Knell er chefredaktør for e. Republic, hvor hun har det overordnede ansvar for den redaktionelle strategi på e. Republics platforme, herunder Government Technology, Governing, Industry Insider, Emergency Management og Center for Digital Education. Hun har været hos e. Republic siden 2011 og bringer decadevis erfaring inden for skrivning, redigering og ledelse. Som Californianer har Noelle arbejdet i både statslige og lokale myndigheder og har uddannelser i statskundskab og amerikansk historie fra University of California, Davis.