Una jutge del Regne Unit, Victoria Sharp, ha emès un avís ferm als professionals del dret sobre els perills d’utilitzar eines d’IA com ChatGPT per citar casos jurídics fabricats. Aquesta advertència arriba després d’incidents al Tribunal Suprem de Londres on advocats van presentar arguments legals generats per IA recolzats per jurisprudència fictícia. La jutge Sharp va ressaltar que aquesta pràctica suposa un risc greu d’afeblir la integritat del sistema de justícia i d’atacar la confiança pública en els processos legals. Va recordar als advocats el deure ètic que tenen en utilitzar eines digitals emergents, destacant que, tot i que la IA pot ajudar en la investigació i redacció, cal una diligència absoluta per verificar la precisió i l’autenticitat dels materials que es presenten al jutjat. Fabricar o confiar en autoritats legals falses no és només un error acadèmic, sinó que pot comportar conseqüències jurídiques importants. Aquest advertiment va arribar després de dues desafiaments recents al Tribunal Suprem en què es van scrutinitzar referències generades per IA a casos no verificables, provocant preocupació judicial per una dependència creixent en les sortides de la IA sense supervisió humana suficient. La jutge Sharp va criticar les directrius actuals sobre l’ús de la IA en el dret com insuficients i va instar els reguladors, òrgans professionals i líders del sector a establir estructures més sòlides i iniciatives educatives per reforçar les responsabilitats ètiques dels advocats en aquest camp en evolució. Aquest tema pren més urgència davant la ràpida adopció de la IA generativa en diverses professions, especialment en el dret, on la precisió és fonamental. Presentar proves falses de manera conscient pot equivaldre a pervertir la justícia, amb sancions que inclouen la desobediència al tribunal i càrrecs penals. La crida a una regulació més estricta i a una supervisió ètica reflecteix les preocupacions globals sobre la integració de la IA en professions sensibles, buscant equilibrar els beneficis d’aquesta tecnologia per a l’eficiència i la innovació amb els riscos per a la justícia i la igualtat. En el context legal del Regne Unit, els advocats han de mantenir la integritat dels processos legals i actuar amb honestedat en les seves actuacions davant del tribunal.

Utilitzar eines d’IA no els eximeix d’aquestes obligacions, sinó que en fa encara més necessària la vigilància i la verificació. Els educadors jurídics també són motivats a incorporar l’alfabetització i l’ètica en l’ús de la IA per preparar els professionals als desafiaments tecnològics. El poder judicial controla de prop l’ús indegut de la IA i està preparat per imposar sancions estrictes per la presentació de materials falsos o enganyosos, amb l’objectiu de protegir l’administració de justícia i la confiança pública. A mesura que la IA s’incorpora més en el dret, la professió ha d’adoptar aquestes eines de manera responsable. Les advertències de la jutge Sharp són un avís i una crida a l’acció per garantir que la tecnologia actui com a aliada i no com a amenaça per a l’estat de dret. En resum, l’ús de la IA en la recerca i argumentació legal exigeix els més alts estàndards d’integritat. El seu ús inadequat pot comportar sancions professionals i responsabilitats penals. Tots els actors del sector legal estan cridats a col·laborar en la definició de directrius més clares, a millorar l’educació i a fomentar la consciència ètica sobre el paper de la IA en la pràctica jurídica. Aquest desenvolupament també planteja el repte social més ampli de gestionar l’impacte de la IA en institucions crítiques, posant en valor la necessitat d’equilibrar la innovació amb la conservació de la confiança i la responsabilitat en els sistemes de justícia.