Les DSI et les législateurs de tout le pays se sont réunis avec les leaders de l'industrie pour discuter de l'utilisation de l'IA et de ses risques associés lors du sommet inaugural sur l'IA organisé par le Centre pour l'IA dans le secteur public. L'événement, qui s'est tenu mardi à Austin, a mis en vedette Giovanni Capriglione (R-98), représentant de l'État du Texas, et Shannon Zimmerman, représentant de l'État du Wisconsin, qui ont partagé leurs perspectives sur les obstacles législatifs posés par l'IA dans les secteurs privé et public. Capriglione a mis en exergue les données collectées par le Caucus de l'innovation et de la technologie de la législature du Texas (IT Caucus), indiquant que plus de 500 applications d'IA sont actuellement utilisées dans diverses agences d’État au Texas. Parmi ces applications, la cybersécurité est apparue comme le cas d'utilisation le plus répandu. Alors que Capriglione s'est montré optimiste quant à l'intégration de l'IA dans les agences d'État, il a souligné la nécessité d'un cadre réglementaire complet. Zimmerman a mis l'accent sur le potentiel de normalisation et l'efficacité accrue du gouvernement que représente l'avènement de l'IA au Wisconsin. Cependant, les deux représentants ont souligné l'importance de préserver la confidentialité, notamment en ce qui concerne les questions de sécurité publique.

Zimmerman a déclaré : «Nous voulons la sécurité publique, c'est certain, mais nous devons trouver un équilibre entre les droits des personnes et tout le reste». Capriglione a exprimé des préoccupations concernant l'utilisation de l'IA, telle que la reconnaissance faciale, dans l'identification des suspects criminels, y voyant une violation des droits constitutionnels. Il a déclaré : «Tout est plus grand au Texas, sauf Big Brother». La discussion a également abordé le sujet des biais de données au sein des systèmes d'IA et leur impact sur les modèles formés. À mesure que l'IA évolue vers la prise de décision automatisée, la responsabilité de ces décisions a été considérée comme devant incomber à l'entité plutôt qu'à la seule technologie. Capriglione a affirmé que les individus ne devraient pas pouvoir se cacher derrière la complexité des systèmes d'IA, déclarant : «Nous n'allons pas permettre aux individus de se cacher derrière le fait que, eh bien, c'est une boîte noire et je ne peux pas vous expliquer comment cela s'est passé ; nous n'allons pas l'accepter». Zimmerman a également rejeté l'idée d'attribuer des décisions uniquement à un programme informatique, en particulier dans les cas impliquant les soins de santé ou des décisions majeures impactant les vies humaines. (Note: Cet article a été publié à l'origine dans Industry Insider — Texas, une publication de e. Republic, la société mère de Government Technology et du Centre pour l'IA dans le secteur public. ) Chandler Treon, rédacteur basé à Austin, est titulaire de licences et de masters en anglais ainsi qu'un master en communication technique, tous obtenus à la Texas State University.