L'ensemble du pays développe des « sandbox » et encourage l'expérimentation avec l'IA afin de permettre des opérations plus efficaces et performantes—on pourrait la décrire comme une IA à but précis. Cependant, promouvoir l'innovation au sein du gouvernement comporte des risques inhérents. Au Colorado, le directeur des systèmes d'information, David Edinger, a indiqué que son bureau avait examiné environ 120 propositions liées à l'IA pour des applications potentielles dans le gouvernement de l'État. Il a détaillé leur processus d’évaluation des soumissions des agences. Parmi les idées considérées comme « à haut » risque selon le cadre du NIST, la plupart des refus partagent un problème commun : des pratiques de gestion des données qui ne respectent pas les normes de confidentialité de l’État. Le Colorado n’est pas unique à accorder la priorité aux pratiques de gestion des données lors de l’évaluation des partenaires potentiels en IA. Lors d’une discussion avec Government Technology lors de la Conférence annuelle de la National Association of State Chief Information Officers (NASCIO) le mois dernier, le directeur de la technologie de la Californie, Jonathan Porat, a exposé trois facteurs clés guidant l’évaluation par l’État des cas d’usage de l’IA. Au-delà d’évaluer si le cas d’usage est approprié pour le gouvernement de l’État, les responsables examinent le bilan technologique et étudient attentivement les données impliquées dans la proposition. « Les données que nous utilisons sont-elles adaptées à un système GenAI ?» a demandé Porat. « Sont-elles correctement gouvernées et sécurisées ?» Transcription de la vidéo : « Je dirais que nous avons récemment examiné environ 120 propositions pour toutes les agences et tous les usages possibles, en suivant le cadre du NIST—en les classant en risque moyen, élevé ou interdit.

Les usages interdits sont interdits d’emblée ; les usages à risque moyen que nous déployons directement ; et les utilisations à haut risque font l’objet d’une évaluation plus approfondie. Lorsque nous rejetons des propositions, ce n’est presque jamais en raison de l’usage prévu, mais à cause de préoccupations concernant le partage des données. Plus précisément, des données partagées avec des fournisseurs en vertu de contrats standards qui sont interdits par la loi de l’État, comme les données PII, HIPAA ou CJIS. Nous devons refuser ces propositions, non pas en raison de la manière dont l’outil est destiné à être utilisé, mais parce que les modalités de partage des données sont inacceptables. C’est en réalité la question essentielle — et celle qui nous a surpris — le problème ne réside pas dans l’utilisation elle-même, mais dans la gestion de la confidentialité des données. » Noelle Knell est la rédactrice en chef chez e. Republic, supervisant la stratégie éditoriale globale des plateformes d’e. Republic, y compris Government Technology, Governing, Industry Insider, Emergency Management et le Center for Digital Education. Elle travaille chez e. Republic depuis 2011 et possède plusieurs décennies d’expérience en rédaction, édition et leadership. Originaire de Californie, Noelle a travaillé aussi bien dans des gouvernements locaux que d’État, et détient des diplômes en science politique et en histoire américaine de l’Université de Californie à Davis.