En el camp en rapid evolució de la intel·ligència artificial, els tribunals dels EUA s'enfronten a desafiaments sense precedents per integrar les tecnologies d’IA en els processos judicials. Un cas recent a Phoenix, Arizona, posa de manifest aquesta qüestió mostrant tant els avantatges com les profundes complexitats ètiques d'usar l'IA al sistema legal. El cas implicava un acusat condemnat a 10, 5 anys de presó per homicidi imprudent, i destaca per l’ús d’un vídeo generat per IA durant la condemna. Aquest vídeo mostrava la víctima, Christopher Pelkey, aparentment perdonant el seu prenyat, i va ser creat per la seva família. Era una de les primeres ocasions en què un contingut generat per IA es presentava com a part d'una declaració d'impacte a la víctima. El jutge que presidia va elogiar el vídeo per l'impacte emocional, però l’advocada de la defensa va presentar un recurs, argumentant que confiar en contingut generat per IA era inapropiat i podria haver influït de manera indeguda en la sentència. Aquest recurs va posar de manifest el debat creixent sobre el paper de la IA als tribunals i la necessitat urgent de línies directives judicials clares. L'exemple de Phoenix forma part d’una tendència més àmplia: els tribunals a tot el país experimenten amb tecnologies d’IA i virtuals. A Florida, un jutge va utilitzar realitat virtual per recrear escenes del delicte per als jurats, oferint una experiència immersiva, mentre que a Nova York, es va utilitzar un avatar d’IA per presentar arguments formals davant del tribunal, il·lustrant el potencial paper de l’IA en l’advocacia legal. Malgrat aquestes innovacions, els experts alerten contra una acceptació totalment acrítica de la IA en la justícia. El poder persuasori del contingut generat per IA pot manipular les emocions i percepcions, suscitant preocupacions sobre l’augment de les desigualtats, especialment per a acusats que no disposen de recursos per contrarestar eficaçment proves o arguments d’IA. A més, sorgeixen preguntes sobre l’autenticitat i la integritat del testimoniatge produït per IA, desafiant la noció de testimoni human real i posant en risc la representació fidel, cosa que amenaça la justícia i la veritat als processos legals. En resposta, algunes jurisdiccions estan formaant directrius i mecanismes de supervisió de manera proactiva.

Per exemple, la Junta Suprema d’Arizona va establir un comitè especial per crear normes per a l’ús de la IA en els àmbits judicials, amb la finalitat d’equilibrar els beneficis de l’IA amb la necessitat de justícia, transparència i equitat. La comunitat legal continua afrontant preguntes clau: com poden els tribunals verificar l’autenticitat de l’evidència generada per IA?Quins mecanismes de seguretat eviten la manipulació o els prejudicis?Com pot el sistema garantir que la integració de la IA no perjudica les parts marginades o amb recursos limitats? És fonamental abordar aquestes qüestions ja que el rol del poder judicial va més enllà de dictar justícia: també implica mantenir la confiança pública en el sistema legal. Tot i que la IA ofereix oportunitats per millorar els processos judicials, una gestió inadequada pot amenaçar la integritat del sistema. En resum, el cas de homicidi imprudent a Phoenix exemplifica l’ús pioner però controvertit de la IA als tribunals. A mesura que materials generats per IA esdevenen part dels arguments legals i de les declaracions de les víctimes, els tribunals han d’oparar amb ètica, llei i justícia amb cura. La col·laboració entre jutges, advocats, tecnòlegs i ètics serà essencial per desenvolupar polítiques que aprofitin els avantatges de la IA tot preservant la justícia i la equitat. Els diàlegs i les polítiques en marxa a estats com Arizona serveixen com a model per a una integració responsable de la IA als tribunals als EUA i més enllà en els propers anys.