Em 18 de julho de 2025, a Califórnia tornou-se o maior sistema judicial estadual dos Estados Unidos a regulamentar formalmente o uso de inteligência artificial generativa (IA) dentro de seu judiciário. Reconhecendo a crescente presença e impacto das tecnologias de IA nos processos legais, o Conselho Judicial da Califórnia adotou uma nova norma que exige que todos os tribunais estaduais proíbam totalmente a IA generativa ou estabeleçam políticas específicas de uso até 1º de setembro de 2025. Essa norma foi desenvolvida por uma força-tarefa de IA de 2024, liderada pela Chefe de Justiça Patricia Guerrero, demonstrando uma postura proativa em relação à integração ética e segura de ferramentas de IA. Um aspecto notável da norma é sua flexibilidade, oferecendo uma política modelo abrangente que os tribunais podem adaptar às suas necessidades operacionais específicas em meio ao cenário de rápida evolução da IA e aos ambientes diversos do judiciário. A norma impõe salvaguardas essenciais para proteger a integridade judicial e os dados sensíveis, incluindo proibições estritas de inserir informações confidenciais em sistemas públicos de IA e de usar a IA de maneiras que possam causar discriminação ou viés ilegais, refletindo o compromisso do judiciário com a justiça. A transparência é enfatizada: os tribunais devem divulgar quando materiais são totalmente gerados por IA, garantindo que a supervisão humana continue sendo fundamental. Além disso, juízes ou funcionários dos tribunais devem verificar rigorosamente a precisão das informações produzidas por IA antes de seu uso oficial. O Juiz de Apelações Brad Hill, presidente da força-tarefa, destacou a necessidade de uma estrutura equilibrada e adaptável que apoie a justiça e a eficiência sem sufocar a inovação, dada a rápida evolução da IA. O sistema judicial da Califórnia, o maior do país, com cerca de 1. 800 juízes distribuídos em 65 tribunais responsáveis por aproximadamente cinco milhões de casos anualmente, junta-se a outros estados como Illinois, Delaware e Arizona na legisl ação sobre o uso de IA no judiciário.

Essa iniciativa está alinhada às discussões nacionais e internacionais mais amplas sobre as implicações legais da IA, incluindo possíveis vieses, violações de confidencialidade e resultados imprecisos. A política da Califórnia exemplifica uma liderança judiciária que busca aproveitar os benefícios da IA ao mesmo tempo em que minimiza os riscos associados. A ação também transmite a outros tribunais estaduais e federais a importância de uma governança cuidadosa sobre as tecnologias emergentes no âmbito jurídico. À medida que a IA se torna mais complexa e acessível, os tribunais enfrentam uma crescente pressão para definir limites éticos e salvaguardas operacionais. A abordagem adaptável e minuciosa da Califórnia pode servir de modelo para equilibrar inovação, responsabilidade e justiça. Em resumo, as políticas formais de IA da Califórnia representam um avanço significativo na regulamentação da tecnologia dentro do judiciário. Ao exigir proteções de confidencialidade, proibir usos discriminatórios de IA, demandar divulgação de conteúdos gerados por IA e garantir a validação humana dos resultados da IA, o estado estabelece padrões que promovem confiança e integridade nos procedimentos judiciais. A flexibilidade dessa política permitirá que os tribunais se adaptem eficazmente às mudanças tecnológicas contínuas, apoiando uma administração da justiça justa, eficiente e inovadora na era digital.