Bundesweit entwickeln Bundesstaaten sogenannte "Sandkästen" und fördern Experimentiere mit KI, um effektivere und effizientere Abläufe zu ermöglichen – vielleicht am besten beschrieben als KI mit Zweck. Allerdings birgt die Förderung von Innovationen im öffentlichen Sektor inhärente Risiken. In Colorado berichtete CTO David Edinger, dass sein Amt etwa 120 KI-bezogene Vorschläge für potenzielle Anwendungen im Landesregierungskontext überprüft hat. Er erläuterte den Prozess zur Begutachtung der Einreichungen der Behörden. Unter den als "hoch" eingestuften Risiken nach dem NIST-Rahmenwerk teilen die meisten Ablehnungen ein gemeinsames Problem: Datenpraktiken, die die Datenschutzstandards des Bundesstaates nicht erfüllen. Colorado ist kein Einzelfall, wenn es darum geht, bei der Bewertung potenzieller KI-Partnerschaften auf Datenpraktiken zu achten. Bei einer Diskussion mit Government Technology auf dem Midyear Conference der National Association of State Chief Information Officers (NASCIO) im vergangenen Monat skizzierte California’s Chief Technology Officer Jonathan Porat drei entscheidende Faktoren, die die Bewertung von KI-Anwendungsfällen durch den Bundesstaat leiten. Neben der Beurteilung, ob der Anwendungsfall für die Landesregierung geeignet ist, prüfen die Verantwortlichen die Erfolgsbilanz der Technologie und untersuchen die in den Vorschlägen enthaltenen Daten genau. „Sind die Daten, die wir verwenden, für ein GenAI-System geeignet?“ fragte Porat. „Werden sie ordnungsgemäß verwaltet und gesichert?“ Video-Transkript: „Ich würde sagen, wir haben bisher etwa 120 Vorschläge aus allen Behörden für alle möglichen Verwendungen geprüft, gemäß dem NIST-Rahmenwerk – kategorisiert als mittel, hoch oder verbotenes Risiko. Verbotene Anwendungen verbieten wir vollständig; mittelriskante Anwendungen setzen wir direkt um; und hochriskante Anwendungen durchlaufen eine gründlichere Bewertung.

Wenn wir Vorschläge ablehnen, liegt das fast immer nicht am beabsichtigten Verwendungszweck, sondern an Bedenken beim Datenaustausch. Insbesondere bei Daten, die unter Standardverträgen mit Anbietern geteilt werden, die durch Landesgesetze verboten sind, wie PII, HIPAA- oder CJIS-Daten. Wir müssen diese ablehnen, nicht wegen der Art der Nutzung des Tools, sondern weil die Vereinbarungen zum Datenaustausch unakzeptabel sind. Das ist wirklich das Kernproblem – und was uns überraschte –, das Problem liegt nicht in der Verwendung selbst, sondern in der Handhabung des Datenschutzes. “ Noelle Knell ist Chefredakteurin bei e. Republic und verantwortet die gesamte redaktionelle Strategie für die Plattformen von e. Republic, darunter Government Technology, Governing, Industry Insider, Emergency Management und das Center for Digital Education. Sie ist seit 2011 bei e. Republic und bringt jahrzehntelange Erfahrung in Schreiben, Redaktion und Führung mit. Als gebürtige Kalifornierin hat sie sowohl im Staat als auch auf lokaler Ebene gearbeitet und verfügt über Abschlüsse in Politikwissenschaft und amerikanischer Geschichte von der University of California, Davis.