U manje od osamnaest meseci, Frenki Džonson, koji je bio u zatvoru u zatvoru Vilijam E. Donaldson u blizini Birmingema, Alabama, prijavio je da je bio izboden otprilike dvadeset puta. U decembru 2019. , izboden je “bar devet puta” u svojoj jedinici za smještaj. U martu 2020. , nakon što je bio stavljen u lisice za sto od strane policajca nakon grupne terapije, jedan drug iz zatvora ga je izbo pet puta. Kasnije te godine, u novembru, nakon što je bio stavljen u lisice i odveden na zatvorski dvorište, Džonson je napadnut ledom od strane drugog zatvorenika, koji mu je zadao pet do šest uboda dok su ga posmatrala dva stražara; Džonson tvrdi da je jedan od stražara podstakao napad kao odmazdu za prethodni sukob. Godine 2021. , Džonson je podneo tužbu protiv službenika zatvora u Alabami, navodeći nesposobnost da ga zaštite, rasprostranjeni nasilni incidenti, nedostatak osoblja, prenaseljenost i sistemsku korupciju. Radi odbrane u slučaju, kancelarija generalnog tužioca Alabame angažovala je advokatsku firmu Butler Snow, koja je često plaćana u milione dolara od strane države za zaštitu njenog problematičnog zatvorskog sistema, posebno lorda Vilijama Lunsforda, šefa grupe za ustavno i građansko pravo. Međutim, ta firma sada se suočava sa sankcijama od strane federalnog sudije koji nadgleda Džonsonov slučaj nakon što je advokat tamo, Metju Rivs, koji sarađuje sa Lunsfordom, naveo nepostojeće slučajeve generisane veštačkom inteligencijom (AI). Ovaj incident deo je rastućeg trenda u kome advokati bivaju kažnjavani zbog uključivanja lažnih informacija generisanih AI-jem u pravne dokumente. Globalna baza podataka identifikovala je 106 takvih primera “halucinacija AI-ja” u sudskim dokumentima.

Prošle godine, advokat je suspendovan na godinu dana u Floridi zbog citiranja lažnih AI-generisanih slučajeva, a nedavno u Kaliforniji, federalni sudija je naložio firmi da plati više od 30. 000 dolara kazne zbog uključivanja lažnih istraživanja generisanih AI-jem u žalbu. Na saslušanju u Birmingemu, sudija okružnog suda SAD-a Anna Manasko naznačila je da razmišlja o raznim sankcijama – od novčanih kazni i obaveznog stalnog pravnog obrazovanja do upućivanja na licence sudskih ili regulatornih tela i privremenog suspendovanja – protiv Butler Snow nakon što je Rivs koristio ChatGPT za umetanje lažnih navoda u dokumente u vezi sa sukobima oko iskaza i otkrića. Manasko je kritikovala prethodne sankcije u drugim slučajevima kao nedovoljne, nazivajući ovaj slučaj “dokazom da one nisu dovoljne”. Advokati Butler Snowa izrazili su žaljenje i prihvatili potencijalne sankcije, naglašavajući da postoji politika firme koja zahteva odobrenje pre korišćenja AI za pravna istraživanja. Rivs je preuzeo punu odgovornost, priznajući da je olako koristio ChatGPT za pronalaženje navoda bez da ih je samostalno proverio u Westlawu ili Paceru, i izrazio duboko žaljenje. Džeme Charlotin, pravni istraživač sa sedištem u Parizu koji prati takve slučajeve, napominje da je zabeležen ubrzani rast podnesenih žalbi koje sadrže netačne sadržaje AI-jem generisane, ali ističe da su sudovi do sada bili popustljivi, zadržavajući strože kazne, poput velikih novčanih kazni i suspendovanja, uglavnom za advokate koji ne preuzimaju odgovornost. On predviđa da će se strožija sprovođenja pravila definitivno dogoditi u budućnosti. Pored slučaja Džonsona, Lunsford i Butler Snow imaju ugovore za nekoliko važnih tužbi za građanska prava protiv Odseka za zatvore Alabame, uključujući i jednu koju je podneo SAD Ministarstvo pravde tokom administracije Tramp 2020. godine, koja ističe slične sistemske probleme i kršenja Ustavne osme amandmana zabrane nečovečnih i neobičnih kazni. Samo ovaj slučaj imao je ugovor vredan skoro 15 miliona dolara za dva-årno izvođenje radova. Neki zakonodavci Alabame izrazili su sumnju u velike isplate Butler Snowu, ali nedavna greška nije pokolebala poverenje generalnog tužioca. Na saslušanju, kada su ih upitali da li će nastaviti saradnju sa Butler Snowom, advokat iz kancelarije generalnog tužioca potvrdio je da gospodin Lunsford ostaje “njihov advokat od povjerenja”.