U manje od osamnaest mjeseci, Frankie Johnson, zatvoren u zatvoru William E. Donaldson kod Birminghama, Alabama, izvijestio je da je biookeren približno dvadeset puta. U prosincu 2019. , izboden je „najmanje devet puta“ u svom smještajnom odjelu. U ožujku 2020. , nakon što ga je službenik po grupnoj terapiji oduzeo lisicama za stol, drugi zatvorenik ga je izbo pet puta. Kasnije te godine, u studenom, nakon što su ga s lisicama odveli u zatvorsko dvorište, Johnsona je napao drugi zatvorenik s ledenim kolutom, zadavši mu pet do šest uboda, dok su ga promatrala dvojica čuvara; Johnson tvrdi da je jedan od njih potaknuo napad kao odmazdu za raniju svađu. Godine 2021. , Johnson je podnio tužbu protiv dužnosnika zatvora u Alabami, navodeći njihovo nepreuzimanje odgovornosti za njegovu zaštitu, rašireno nasilje, nedostatak osoblja, prenapučenost i sustavnu korupciju. Za obranu slučaja, ured državnog odvjetnika Alabame angažirao je Butler Snow, odvjetničku tvrtku koja često prima milijune dolara od države za obranu njenog problema zatvorskog sustava, posebice od voditelja odjela za ustavna i građanska prava, Williama Lunsforda. Međutim, ta je tvrtka sada podložna sankcijama od strane saveznog suca koji nadgleda Johnsonov slučaj, nakon što je odvjetnik tamo, Matthew Reeves, radeći s Lunsfordom, citirao nepostojeće slučajeve koje je generirala umjetna inteligencija (AI). Ovaj incident dio je rastućeg trenda u kojem odvjetnici trpe posljedice zbog uključivanja izmišljenih informacija generiranih AI-jem u pravne dokumente. Globalna baza podataka identificirala je 106 takvih slučajeva „halucinacija AI-ja“ u sudskim dokumentima. Prošle godine, odvjetnik je bio suspendiran na godinu dana na Floridi zbog citiranja izmišljenih AI-generiranih slučajeva, a nedavno u Kaliforniji, savezni sudac je kaznio odvjetničku tvrtku s više od 30. 000 dolara zbog uključivanja lažnih istraživanja generiranih AI-jem u pravni podnesak. Na ročištu u Birminghamu, sudac SAD-a Anna Manasco najavila je razmatranje različitih sankcija — od novčanih kazni i obveznog stalnog edukacijskog pravnog obrazovanja do uputnica zamjenskih odbora za licenciranje i privremenih suspenzija — protiv Butler Snowa nakon što je Reeves iskoristio ChatGPT za umetanje lažnih citata u dokumente vezano uz smjene i otkrivanje dokaza. Manasco je kritizirala dosadašnje sankcije u drugim slučajevima kao nedovoljne, nazvavši ovaj slučaj „savršenim dokazom“ da su one nedostatne. Odvjetnici Butler Snowa izrazili su žaljenje i pristali na moguće sankcije, ističući internu politiku koja zahtijeva odobrenje prije korištenja AI za pravna istraživanja. Reeves je preuzeo punu odgovornost, priznajući da je zanemario tu politiku, i molio da se njegovim kolegama ne sudi. Tvrtka je imenovana i plaća se od strane države za obranu Jeffreyja Duna, bivšeg voditelja Odjela za korekcije u Alabami.

Lunsford je započeo pregled ranijih podnesaka radi drugih lažnih citata, ali je priznao da odgovor tvrtke još nije dovršen. Manasco je dao Butler Snowu deset dana da podnese prijedlog o njihovom planu rješavanja problema prije nego što odluči o sankcijama. Otkrivanje lažnih citata vezano uz AI dogodilo se tijekom sudskog spora. Butler Snow je nastojao izvještajiti Johnsona, koji je i dalje zatvoren, no odvjetnici Johnsona pobunili su se, navodeći nepotpune dokumente koje bi trebali dobiti unaprijed. Podnesak Butler Snowa za provedbu ubrzane ispitivanja citirao je četiri navodna žalbena slučaja koja bi to odobrila, no svi su bili izmišljeni. Neki su citati oponašali stvarne, ali bili su ili irelevantni ili povijesno nepovezani, poput slučaja Kelley protiv grada Birminghama iz 2021. , koji je u stvarnosti bio slučaj s kaznom za prebrzu vožnju iz 1939. Odvjetnici Johnsona podnijeli su prijedlog optužujući Butler Snow za oslanjanje na „generativnu umjetnu inteligenciju“ u stvaranju lažnih citata, te su identificirali još jedan lažni citat u ranijim podnescima vezanim uz spor oko otkrivanja dokaza. Manasco je, shvaćajući ozbiljnost, osobno obavila neovisno pretraživanje i nije pronašla nikakve dokaze o navedenim slučajevima. Reeves je priznao da je žurno koristio ChatGPT za pronalazak citata bez samostalne provjere u Westlawu ili Paceru, te izrazio duboku žaljenje. Damien Charlotin, odvjetnički istraživač sa sjedištem u Parizu, koji prati takve slučajeve, ističe da se broj prijava s lažnim sadržajem AI-ja nedavno povećao, ali smatra da su sudovi bili popustljivi, rezervirajući teže sankcije poput velikih novčanih kazni i suspenzija uglavnom za odvjetnike koji ne preuzimaju odgovornost. Predviđa da će se strože provedbe pravila dogoditi s vremenom. Osim slučaja Johnsona, Lunsford i Butler Snow imaju ugovore za nekoliko važnih tužbi za građanska prava protiv Odjela za korekcije Alabama, uključujući onu koju je podnio američki Ministarstvo pravde pod administracijom Trumpa 2020. , koja je ukazivala na slične sustavne probleme kršenja Zakona o osmo amandmanu, zabranjujući okrutne i neuobičajene kazne. Samo u tom slučaju, ugovor je vrijedio gotovo 15 milijuna dolara tijekom dvije godine. Neki alabamaški zakonodavci raspravljaju o velikim isplatama Butler Snowu, no nedavna pogreška nije dovela do sumnji u povjerenje državnog odvjetnika. Tijekom ročišta, kada su pitali hoće li i dalje angažirati Butler Snow, odvjetnik u uredu državnog odvjetnika potvrdio je da g. Lunsford ostaje njihov„odvjetnik od povjerenja“.