In meno di diciotto mesi, Frankie Johnson, recluso nel carcere di William E. Donaldson vicino Birmingham, Alabama, ha riferito di essere stato accoltellato circa 20 volte. Nel dicembre 2019, è stato ferito “almeno nove volte” nel suo alloggio. A marzo 2020, dopo essere stato ammanettato a una scrivania da un ufficiale dopo una terapia di gruppo, un altro carcerato lo ha accoltellato cinque volte. Successivamente, nello stesso anno, a novembre, dopo essere stato ammanettato e scortato nel cortile della prigione, Johnson è stato aggredito con un punteruolo da un altro detenuto, ricevendo da cinque a sei ferite da arma da taglio mentre due agenti penitenziari osservavano; Johnson afferma che un ufficiale ha incoraggiato l’aggressione come ritorsione per un precedente episodio. Nel 2021, Johnson ha intentato una causa contro le autorità carcerarie dell’Alabama, citando insuccesso nel proteggerlo, violenza diffusa, sottoccupazione, sovraffollamento e corruzione sistemica. Per difendersi, l’ufficio del procuratore generale dell’Alabama ha incaricato Butler Snow, uno studio legale spesso pagato milioni di dollari dallo Stato per difendere il suo sistema carcerario problematico, in particolare William Lunsford, a capo del gruppo di diritto costituzionale e dei diritti civili. Tuttavia, ora lo studio rischia sanzioni da parte del giudice federale che supervisiona il caso di Johnson, dopo che un avvocato dello studio, Matthew Reeves, collaborando con Lunsford, ha citato casi inesistenti generati da intelligenza artificiale (AI). Questo incidente fa parte di una tendenza crescente in cui gli avvocati affrontano ripercussioni per aver incluso informazioni false generate dall’AI nei documenti legali. Un database mondiale ha identificato 106 casi di “allucinazioni dell’AI” in documenti processuali. L’anno scorso, un avvocato è stato sospeso per un anno in Florida per aver citato casi falsi prodotti dall’AI, e recentemente in California un giudice federale ha multato uno studio legale con oltre 30. 000 dollari per aver inserito ricerche false generate dall’AI in un documento. In un’udienza a Birmingham, la giudice distrettuale americana Anna Manasco ha indicato che sta considerando varie sanzioni — che vanno da multe e corsi di formazione obbligatori in diritto fino a segnalazioni alle commissioni di abilitazione e sospensioni temporanee — contro Butler Snow, a seguito dell’uso di ChatGPT da parte di Reeves per inserire citazioni false nei documenti riguardanti dispute su deposizioni e scoperte. Manasco ha criticato le precedenti sanzioni in altri casi come insufficienti, definendo questa “prova evidente” che tali punizioni sono state troppo lievi. Gli avvocati di Butler Snow hanno espresso rammarico e accettato possibili sanzioni, sottolineando una politica aziendale che richiede l’approvazione prima di usare l’AI per le ricerche legali. Reeves ha assunto tutta la responsabilità, ammettendo di aver trascurato questa policy nonostante fosse consapevole dei limiti dell’AI, e ha chiesto che i suoi colleghi non vengano puniti. Lo studio è stato nominato e viene pagato dallo Stato per difendere Jefferson Dunn, ex commissario del Dipartimento delle Penitenziarie dell’Alabama.

Lunsford ha iniziato a rivedere le precedenti pratiche per altre citazioni false, ma ha riconosciuto che la risposta dello studio non è ancora completa. Manasco ha concesso a Butler Snow dieci giorni di tempo per presentare una mozione che illustri il loro piano per affrontare il problema, prima di decidere sulle sanzioni. Le citazioni false generate dall’AI sono emerse nel mezzo di una controversia sulla programmazione. Butler Snow voleva deporre Johnson, ancora detenuto, ma i suoi avvocati hanno obiettato, ricordando che devono ricevere documenti incompleti in anticipo. Il documento dello studio legale per imporre un deposito rapido citava quattro presunti casi di appello che autorizzavano tali deposizioni, ma tutti erano falsi. Alcuni casi imitavano citazioni reali, ma erano irrilevanti o storicamente slegati, come un caso Kelley c. City of Birmingham del 2021, che in realtà risaliva a una contravvenzione per eccesso di velocità del 1939. Gli avvocati di Johnson hanno presentato una mozione accusando Butler Snow di aver fatto affidamento su “intelligenza artificiale generativa” per creare citazioni inventate, identificando un’altra citazione falsa in documenti precedenti relativi a dispute sulla scoperta. Manasco, considerando la gravità, ha condotto ricerche indipendenti senza trovare prove di quei casi citati. Reeves ha ammesso di aver usato frettolosamente ChatGPT per trovare citazioni senza verificarle indipendentemente su Westlaw o Pacer, esprimendo profondo rammarico. Damien Charlotin, ricercatore legale con sede a Parigi che segue casi simili, observa un aumento recente nelle pratiche con contenuti falsi generati dall’AI, ma commenta che le corti sono state permissive, riservando sanzioni severe come grandi multe e sospensioni principalmente a legali che non assumono responsabilità. Prevede che in futuro si vedranno applicazioni più rigorose. Oltre al caso di Johnson, Lunsford e Butler Snow hanno contratti relativi a molte cause civili rilevanti contro il Dipartimento delle Penitenziarie dell’Alabama, tra cui una promossa dal Dipartimento di Giustizia degli Stati Uniti sotto l’amministrazione Trump nel 2020, che evidenziava problemi simili e violazioni del VIII Emendamento che vieta punizioni crudeli e insolite. Solo questa causa aveva un contratto di quasi 15 milioni di dollari in due anni. Alcuni legislatori dell’Alabama hanno sollevato dubbi sull’ampio compenso a Butler Snow, ma l’errore recente non ha scosso la fiducia del procuratore generale. Durante l’udienza, quando gli è stato chiesto se avrebbero continuato a lavorare con Butler Snow, un avvocato dell’ufficio del procuratore ha confermato che il signor Lunsford rimane il loro “consigliere di fiducia”.