Inden for mindre end atten måneder rapporterede Frankie Johnson, der var fængslet på William E. Donaldson-fængslet nær Birmingham, Alabama, at være blevet stukket omkring 20 gange. I december 2019 blev han stukket "mindst ni gange" i sin boligafdeling. I marts 2020, efter at have været håndjernsbundet til et skrivebord af en betjent efter gruppearbejdet, stak en anden indsatte ham fem gange. Senere samme år, i november, efter at være blevet håndjernet og eskorteret til fængselsgården, blev Johnson angrebet med en isterning af en anden fange, og pådrog sig fem til seks stikninger, mens to korrigeringsbetjente overvågede; Johnson hævder, at en betjent opmuntrede angrebet som gengældelse for en tidligere konflikt. I 2021 indgav Johnson et søgsmål mod Alabama-fængselsmyndighederne, hvor han påpegede manglende beskyttelse, udbredt vold, personalemangel, overbelægning og systemisk korruption. For at forsvare sagen engagerede Alabama's advokatskantoor Butler Snow, et advokatfirma, der ofte modtager millioner af dollar fra staten for at forsvare dets problematiske fængselsvæsen, især med William Lunsford som leder af firmaets gruppe for forfatnings- og borgerrettigheder. Men firmaet står nu over for sanktioner fra den føderale dommer, der fører tilsyn med Johnsons sag, efter at en advokat dér, Matthew Reeves, i samarbejde med Lunsford, henviste til ikke-eksisterende sager genereret af kunstig intelligens (AI). Denne hændelse er en del af en voksende tendens, hvor advokater får konsekvenser for at have medtaget forfalskede AI-genererede oplysninger i retssager. En global database har registreret 106 tilfælde af “AI-hallucinationer” i retsdokumenter. Sidste år blev en advokat suspendert i et år i Florida for at have citeret fabrikerede AI-genererede sager, og for nylig i Californien idømte en føderal dommer en virksomhed en bøde på over 30. 000 dollars for at have medtaget falske AI-genererede forskningsmaterialer i et rådgivende dokument. Ved en forhøring i Birmingham antydede den amerikanske distriktsdommer Anna Manasco, at hun overvejer forskellige sanktioner—fra bøder og obligatorisk fortsat juridisk efteruddannelse til henvisning til licensnævn og midlertidige suspensioner—mod Butler Snow efter Reeves’ brug af ChatGPT til at indsætte falske citater i indlæg vedrørende udbytter og opdagelsesanklager. Manasco kritiserede de tidligere sanktioner i andre sager som utilstrækkelige og kaldte denne sag for “en tydelig bevis” på, at de var utilstrækkelige. Butler Snows advokater udtrykte anger og accepterede mulige sanktioner, efter at have bemærket en firmapolitik, der kræver godkendelse, inden AI anvendes til juridisk forskning. Reeves tog fuldt ansvar og erkendte, at han ignorerede denne politik, på trods af at være bevidst om AI’s begrænsninger, og bad om, at hans kolleger ikke straffes. Firmaet er udpeget og betales af staten for at forsvare tidligere kommissær for Alabama Department of Corrections, Jefferson Dunn.

Lunsford er begyndt at gennemgå tidligere indsendte dokumenter for andre falske citater, men erkendte, at firmaets respons endnu ikke er færdig. Manasco gav Butler Snow ti dage til at indsende en anmodning om, hvordan de planlægger at håndtere problemet, før der træffes endelige sanktioner. De falske AI-citater dukkede op midt i en tvist om tidsplaner. Butler Snow ønskede at afhøre Johnson, som stadig er fængslet, men Johnsons advokater gjorde indsigelse og påpegede, at de skulle modtage ufuldstændige dokumenter på forhånd. Butler Snow anmodede om at håndhæve en hurtigere afhøring gennem en anmodning, der henviste til fire påståede appel-sager, der autoriserede sådanne afhøringer, men alle var forfalskede. Nogle efterlignede ægte referencer, men var enten irrelevante eller historisk urelaterede, såsom en sag Kelley mod City of Birmingham fra 2021, som i virkeligheden var en hastighedstingsag fra 1939. Johnson’s advokater indgav en anmodning om, at Butler Snow havde brugt “generativ kunstig intelligens” til at skabe fabrikerede citater, og identificerede endnu et falsk citat i tidligere indsendte forslag i en opdagelsesproces. Manasco, der tog sagen alvorligt, foretog egne søgninger og fandt ingen beviser for de citerede sager. Reeves indrømmede at have brugt ChatGPT hurtigt til at finde citater uden selv at verificere dem i Westlaw eller Pacer og udtrykte dyb beklagelse. Damién Charlotin, en fransk advokat- og forskningssagkyndig, der følger sådanne sager, bemærker en forøgelse i indsendelse af falskt AI-indhold for nylig, men tilføjer, at domstolene har været milde, idet strenge straffe som store bøder og suspensioner primært er reserveret til advokater, der ikke tager ansvar. Han forudsiger, at mere strenge håndhævelser snart vil finde sted. Ud over Johnsonsagen har Lunsford og Butler Snow kontrakter på flere væsentlige sager om borgerrettigheder mod Alabama Department of Corrections, herunder en sag anlagt af US Department of Justice under Trump-administrationen i 2020, der påpegede lignende systemiske problemer, der overtrådte den Ottende Ændrings forbud mod grusom og usædvanlig straf. Kun denne sag var tildelt en kontrakt til næsten 15 millioner dollars over to år. Nogle alabama-politikere har kritiseret de store betalinger til Butler Snow, men den seneste fejl har ikke skadet anklagergeneralens tillid. Under forhør bekræftede en advokat fra anklagerens kontor, at de fortsat vil arbejde med Butler Snow, og at Mr. Lunsford forbliver deres “foretrukne rådgiver. ”