El 18 de juliol de 2025, Califòrnia va esdevenir el sistema judicial estatal més gran dels Estats Units en regular formalment l’ús de la intel·ligència artificial generativa (IA) dins del seus tribunals. Reconeguent la presència creixent i l’impacte de les tecnologies d’IA en els processos legals, el Consell Judicial de Califòrnia va aprovar una nova normativa que exigeix que tots els tribunals estatals prohibeixin completament l’ús d’IA generativa o estableixin polítiques d’ús específiques abans del 1 de setembre de 2025. Aquesta normativa va ser desenvolupada per un grup de treball d’IA de 2024 liderat per la magistrada cap Patricia Guerrero, mostrant una actitud proactiva cap a la integració ètica i segura d’eines d’IA. Un aspecte destacable de la normativa és la seva flexibilitat, ja que ofereix una política model integral que els tribunals poden adaptar a les seves necessitats operatives particulars en un entorn d’IA en ràpida evolució i en contextos judicials diversos. La normativa aplica mesures de protecció essencials per preservar la integritat judicial i la confidencialitat de dades sensibles, incloent-hi prohibicions estrictes d’introduir informació confidencial en sistemes d’IA públics i també de fer servir IA de maneres que puguin provocar discriminació o biaix il·legal, reflectint el compromís del poder judicial amb la justícia. Es posa èmfasi en la transparència: els tribunals han de divulgar quan els materials són completament generats per IA, assegurant que la supervisió humana continuï essent fonamental. A més, els jutges o el personal judicial han de verificar acuradament la precisió de la informació generada per IA abans d’utilitzar-la oficialment. El jutge d’apel·lacions Brad Hill, president del grup de treball, va destacar la necessitat d’un marc equilibrat i adaptable que recolzi la justícia i l’eficiència sense aturar la innovació, donat l’avanç ràpid de la IA. El sistema judicial de Califòrnia, el més gran del país amb aproximadament 1. 800 jutges en 65 tribunals que gestionen al voltant de cinc milions de casos anualment, s’uneix a altres estats com Illinois, Delaware i Arizona en la legislació sobre l’ús de la IA en l’àmbit judicial.

Aquesta iniciativa està alineada amb els debats nacionals i internacionals sobre les implicacions jurídiques de la IA, incloent-hi possibles biaixos, violacions de confidencialitat i resultats poc fiables. La política de Califòrnia exemplifica un lideratge judicial que busca aprofitar els beneficis de la IA mentre minimitza els riscos associats. A més, aquesta iniciativa envia un missatge a altres tribunals estatals i federals sobre la importància d’una governança acurada de les tecnologies emergents en l’àmbit jurídic. A mesura que la IA es fa més complexa i accessible, els tribunals afronten una pressió creixent per definir límits ètics i mesures operatives de seguretat. L’enfocament adaptatiu i exhaustiu de Califòrnia podria servir com a model que equilibra la innovació amb la responsabilitat i la justícia. En resum, les polítiques oficials d’IA de Califòrnia marquen un avanç significatiu en la regulació de la tecnologia dins del poder judicial. En exigir mesures de confidencialitat, prohibir usos discriminatoris de la IA, requerir la divulgació de contingut generat per IA i assegurar que hi hagi una validació humana dels resultats, l’estat estableix estàndards que fomenten la confiança i la integritat en els procediments judicials. La flexibilitat de la nova norma permet als tribunals adaptar-se de manera efectiva als canvis tecnològics continus, promovent una administració de la justícia equitativa i eficient en l’època digital.