Un jutge federal de Birmingham, Alabama, està revisant si sancionar l'important despatx d'advocats Butler Snow després de descobrir cinc cites jurídiques falses en darrerament presentacions davant el jutjat relacionades amb un cas de gran renom que implica la seguretat d’un reu a la Institució Correccional William E. Donaldson, on l’intern va ser apunyalat múltiples vegades. La qüestió ha adquirit repercussió nacional degut al seu enllaç amb l’ús de la intel·ligència artificial (IA) en la investigació legal, posant de manifest els riscos d’una informació generada per IA poc fiable. La jutgessa del Districte dels EUA Anna Manasco, que supervisa el cas, va identificar les cites falses com “al·lucinacions” generades per IA, referències fabricades per eines com ChatGPT. Aquestes cites imprecises apareixien en dues presentacions de Butler Snow, que està litigiant contra els funcionaris de la presó acusats de no protegir la seguretat dels interns. La presència d’aquestes errades en documents oficials del jutjat genera seriosos dubtes sobre la integritat de la recerca legal de l’advocat i les implicacions més àmplies de confiar en la IA en contextos legals crítics. El problema va sortir a la llum després d’una revisió del cas que va revelar que cap de les cinc cites citades donava suport als arguments legals. La investigació posterior va confirmar que aquestes referències havien estat generades per ChatGPT. Butler Snow va admetre que no havia verificat de manera independent les cites abans d’incloure-les en les presentacions. El sòlid de Butler Snow involucrat en el cas, Matt Reeves, va acceptar la responsabilitat, explicant que va usar ChatGPT per accelerar la investigació però no va creuar la informació. “Accepto tota la responsabilitat pels errors. Ha estat una fallada en els nostres processos de verificació estàndard”, va dir. Al seu costat, altres quatre advocats, inclòs el cap de la divisió, Bill Lunsford —també ajudant del fiscal general—, van aprovar les presentacions, amb Lunsford reconeixent simplement haver fet una revisió superficial, evidenciant lapses en el control de la supervisió. Butler Snow, un despatx amb sòlida trajectòria i que ha rebut milions de dòlars per part de l’Estat d’Alabama per litigis relacionats amb les presons, ara està sota un escrutini més acurat a causa de l’impacte directe de la seva feina en el benestar dels interns i l’administració de la justícia. L’empresa va emetre un comunicat expressant una profunda vergonya pels errors, reafirmant el seu compromís amb estàndards legals rigurosos i prometent millores en les mesures de seguretat per evitar que això es torni a repetir. La jutgessa Manasco ha donat a Butler Snow deu dies per respondre mentre considera possibles mesures disciplinàries, que podrien incloure multes o altres sancions per preservar la integritat judicial i dissuadir futurs comportaments inadequats.

La seva atenció a aquest cas reflecteix la preocupació creixent entre els tribunals per l’ús de la IA en el món legal, especialment davant la tendència de la IA a generar contingut inexacte o fabricat si no es controla adequadament. Aquest incident representa un dels primers exemples de gran repercussió on material generat per IA afecta documents del tribunal federal, i serveix com a advertiment per a professionals del dret a tot el país. A mesura que la IA s’integra més en diferents sectors, els advocats afronten el repte urgent d’ésser rigorosos, assegurar la precisió i gestionar els riscos d’automatització en assumptes legals delicats. El cas posa de manifest el paper fonamental de la supervisió humana en la investigació assistida per IA. Mentre que la IA pot millorar l’eficiència, no pot substituir el judici atent, l’experiència ni la verificació que proporcionen els advocats. L’error de Butler Snow revela que fins i tot els despatxos consolidats són vulnerables a les trampes de la tecnologia sense una diligència adequada. Experts jurídics insten a veure aquest episodi com una crida a una planificació general per repensar el rol de la IA en la pràctica legal. A mesura que els tribunals desenvolupen enfocaments per afrontar els desafiaments de la IA, s’espera que surten guies més clares i estàndards professionals. Mentrestant, els advocats han de verificar rigorosament totes les dades generades per IA abans de confiar-hi en un tribunal. Més enllà de les parts directly implicades, aquest cas destaca una discussió social i judicial més àmplia sobre la confiança, la responsabilitat i la relació en evolució entre tecnologia i dret. El resultat de la revisió de la jutgessa Manasco i les possibles sancions a Butler Snow podrien establir un precedent en la regulació de la influència de la IA en la investigació i litigis legals. Mentre la comunitat jurídica segueix els desenvolupaments, aquest episodi reforça poderosament que la precisió i la integritat continuen sent fonamentals en la feina legal. També il·lustra els desafiaments que afronten els tribunals i els advocats a l’hora d’incorporar noves tecnologies en marcs dissenyats per garantir la justícia i protegir els drets. En resum, l’ús accidental per part de Butler Snow de cites falses generades per IA en una demanda sensible sobre la seguretat d’un intern ha evidenciat qüestions crucials sobre el paper de la IA en el dret. La resposta judicial busca abordar aquesta conducta i enfortir els estàndards que garanteixin la confiança legal. Aquest cas es converteix en un moment clau en el diàleg continu sobre el lloc de la IA en el dret i la vital responsabilitat dels professionals jurídics que utilitzen aquestes eines.