U manje od osamnaest mjeseci, Frankie Johnson, koji je zatvoren u zatvoru William E. Donaldson u blizini Birminghama, Alabama, prijavio je da je bio izboden otprilike dvadeset puta. U decembru 2019. godine, izboden je "barem devet puta" u svom smještajnom jedinici. U martu 2020. , nakon što je bio suočen s policajcem, koji ga je privezano držao za stol nakon grupne terapije, drugi zatvorenik je izboden pet puta. Kasnije te godine, u novembru, nakon što je bio privezano i odveden u zatvorsko dvorište, Johnson je napadnut od strane drugog zatvorenika dletom za led, pri čemu je zadobio pet do šest uboda dok su ga nadgledala dva službenika zatvorske uprave; Johnson tvrdi da je jedan od njih poticao na napad kao odmazdu za prethodni sukob. Godine 2021. , Johnson je podnio tužbu protiv službenika zatvora u Alabami, navodeći njihovu nebrigu u zaštiti, rašireno nasilje, nedostatak osoblja, prenapučenost i sistemsku korupciju. U odbranu slučaja, kancelarija državnog tužioca Alabame angažirala je firmu Butler Snow, advokatsku firmu koja se često plaća milione od države za odbranu njenog problematičnog zatvorskog sistema, posebno pravnog stručnjaka Williama Lunsforda, voditelja odjela za ustavna i građanska prava. Međutim, ta firma sada se suočava sa sankcijama od strane federalnog sudije koji nadgleda Johnsonov slučaj nakon što je jedan njihov advokat, Matthew Reeves, radeći s Lunsfordom, naveo nepostojeće slučajeve generirane umjetnom inteligencijom (AI). Ovaj incident dio je rastućeg trenda u kojem se advokati suočavaju sa posljedicama zbog uključivanja lažnih informacija generiranih AI-jem u pravne dokumente. Globalna baza podataka identificirala je 106 takvih slučajeva “AI halucinacija” u sudskim dokumentima.

Prošle godine, advokat je bio suspendiran na godinu dana u Floridi zbog citiranja lažnih slučajeva generiranih AI-jem, a nedavno u Kaliforniji, federalni sudija je kaznio advokatsku firmu sa više od 30. 000 dolara zbog uključivanja lažne AI-tekstualne istraživačke literature u podneske. Na ročištu u Birminghamu, sudija Sjedinjenih Država Anna Manasco kazala je da razmišlja o raznim sankcijama—od novčanih kazni, obaveznog kontinuiranog pravnog obrazovanja, do upućivanja na licence i privremenih suspenzija—protiv firme Butler Snow nakon Reevesovog korištenja ChatGPT-a za umetanje lažnih citata u podneske vezano za odbranu i nesuglasice u postupcima ispitivanja. Manasco je kritikovala prethodne sankcije u drugim slučajevima kao nedovoljne, nazivajući ovaj slučaj “dokazom da su one nedovoljne”. Advokati Butler Snow-a izrazili su kajanje i prihvatili potencijalne sankcije, ističući interne politike firme koje zahtijevaju odobrenje prije korištenja AI za pravna istraživanja. Reeves je preuzeo punu odgovornost, priznajući da je brzopleto koristio ChatGPT za pronalazak citata bez nezavisne provjere u Westlawu ili Paceru i izrazio duboko žaljenje. Damien Charlotin, pravni istraživač sa sjedištem u Parizu koji prati takve slučajeve, napominje da je zabilježen porast slučajeva s lažnim sadržajem generiranim AI-jem nedavno, ali ističe da su sudovi bili blagi, rezervirajući oštre kazne poput velikih novčanih kazni i suspenzija uglavnom za advokate koji ne prihvataju odgovornost. Predviđa da će se strožiji nadzor i sankcionisanje ipak uspostaviti. Pored slučaja Johnsona, Lunsford i firma Butler Snow imaju ugovore za nekoliko važnih tužbi za građanska prava protiv odjela za zatvore u Alabami, uključujući jednu od Ministarstva pravde SAD-a tokom Trampove administracije 2020. godine, koja ukazuje na slične sistemske probleme koji krše VIII amandman zabrane okrutnog i neobičnog kažnjavanja. Samo ovaj slučaj imao je ugovor vrijedan gotovo 15 miliona dolara u dva navrata. Neki zakonodavci u Alabami izrazili su zabrinutost zbog značajnih plaćanja Butler Snow-u, ali nedavna greška nije narušila povjerenje državnog tužioca. Na ročištu, kada su zatražili da li će nastaviti saradnju s Butler Snow-om, advokat u uredu državnog tužioca potvrdio je da je g. Lunsford i dalje njihov “advokat od povjerenja”.