Estados em todo o país estão desenvolvendo "sandboxes" e incentivando a experimentação com IA para permitir operações mais eficazes e eficientes—talvez melhor descritas como IA com propósito. No entanto, promover a inovação no governo traz riscos inerentes. No Colorado, o CTO David Edinger relatou que seu escritório revisou aproximadamente 120 propostas relacionadas a IA para possíveis aplicações no governo estadual. Ele detalhou seu processo de avaliação das submissões das agências. Entre as ideias consideradas de "alto" risco de acordo com o framework do NIST, a maioria das rejeições compartilha um problema comum: práticas de dados que não atendem aos padrões de privacidade de dados do estado. O Colorado não é único em priorizar as práticas de dados ao avaliar potenciais parceiros de IA. Durante uma discussão com a Government Technology na Conferência de Meio de Ano da Associação Nacional de Diretores de Tecnologia dos Estados (NASCIO) no mês passado, o Diretor de Tecnologia da Califórnia, Jonathan Porat, destacou três fatores principais que orientam a avaliação de casos de uso de IA pelo estado. Além de avaliar se o caso de uso é adequado para o governo estadual, os responsáveis revisam o histórico da tecnologia e examinam de perto os dados envolvidos na proposta. “Os dados que estamos usando são adequados para um sistema de IA generativa?” perguntou Porat. “Eles estão sendo devidamente governados e protegidos?” Transcrição do vídeo: “Diria que revisamos talvez 120 propostas até agora, de todas as agências, para todos os usos possíveis, seguindo o framework do NIST—categorizando como risco médio, alto ou proibido. Usos proibidos somos terminantemente vetados; usos de risco médio são implementados diretamente; e usos de alto risco passam por uma avaliação mais detalhada.

Quando rejeitamos propostas, quase sempre não é pelo uso pretendido, mas por preocupações com o compartilhamento de dados. Especificamente, dados compartilhados com fornecedores sob contratos padrão que são proibidos por lei estadual, como PII, HIPAA ou dados CJIS. Temos que negar esses pedidos não devido à forma como a ferramenta é utilizada, mas porque os acordos de compartilhamento de dados são inaceitáveis. Essa é realmente a questão central—e uma que nos surpreendeu—o problema não está no uso em si, mas na maneira como a privacidade dos dados é gerenciada. ” Noelle Knell é editora executiva da e. Republic, supervisionando a estratégia editorial geral das plataformas da e. Republic, incluindo Government Technology, Governing, Industry Insider, Emergency Management e o Center for Digital Education. Ela trabalha na e. Republic desde 2011 e traz décadas de experiência em escrita, edição e liderança. Natural da Califórnia, Noelle já atuou tanto no governo estadual quanto no municipal e possui diplomas em ciência política e história americana pela Universidade da Califórnia, Davis.