Inom mindre än arton månader rapporterade Frankie Johnson, som var fängslad vid William E. Donaldson-fängelset nära Birmingham, Alabama, att han blivit knivhållen ungefär 20 gånger. I december 2019 blev han knivhuggen "minst nio gånger" i sin bostadsavdelning. I mars 2020, efter att ha blivit handfängslad vid ett skrivbord av en officer efter gruppterapin, spetsades han av en annan samvetsfånge fem gånger. Senare samma år, i november, efter att ha blivit handfängslad och eskorterad till fängelsegården, blev Johnson attackerad med en issåg av en annan fånge och fick fem till sex knivhugg medan två kriminalvårdare såg på; Johnson hävdar att en officer uppmuntrade angripandet i hämnd för en tidigare tvist. År 2021 väckte Johnson stämning mot Alabama-fängelsemyndigheter med hänvisning till bristande skydd, allmän våldsamhet, personalbrist, överbeläggning och systematisk korruption. För att försvara ärendet anlade Alabama:s åklagarbyrå advokatbyrån Butler Snow, en advokatfirma som ofta betalas flera miljoner av staten för att försvara sitt problematiska fängelsesystem, särskilt dess chef för konstitutionella och civila rättigheter, William Lunsford. Men nu står firmans advokater inför sanktioner från den federala domare som övervakar Johnsons fall efter att en advokat där, Matthew Reeves, i samarbete med Lunsford, citerade icke-existerande rättsfall som genererats av artificiell intelligens (AI). Detta är en del av en växande trend där advokater drabbas av konsekvenser för att ha inkluderat fabricerade AI-genererade uppgifter i sina rättsliga inlagor. En global databas har identifierat 106 sådana fall av ”AI-hallucinationer” i domstolsdokument. Förra året blev en advokat avstängd i ett år i Florida för att ha hänvisat till fabricerade AI-genererade rättsfall, och nyligen i Kalifornien fällde en federal domare ett företag över 30 000 dollar för att ha inkluderat falsk AI-genererad forskning i ett rättsärende. Vid ett förhandlingstillfälle i Birmingham angav USAs distriktsdomare Anna Manasco att hon överväger olika sanktioner – från böter och obligatorisk vidareutbildning i juridik till hänvisningar till licensnämnder och tillfälliga avstängningar – mot Butler Snow efter Reeves användning av ChatGPT för att infoga falska rättsreferenser i inlagor relaterade till depositioner och upptäcktsförfaranden. Manasco kritiserade tidigare sanktioner i andra fall som otillräckliga och kallade detta fall ”bevis på att de var otillräckliga”. Advokaterna på Butler Snow uttryckte ånger och accepterade möjliga sanktioner, med hänvisning till en firmapolicy som kräver godkännande innan AI används för juridisk forskning. Reeves tog fullt ansvar, erkände att han ignorerade policyn trots att han var medveten om AI:s begränsningar, och bad att hans kollegor inte skulle straffas. Företaget har blivit anlitade och betalas av staten för att försvara Jefferson Dunn, tidigare chef för Alabama Department of Corrections.

Lunsford har börjat granska tidigare inlagor för andra falska citat, men erkände att firmans svar ännu inte är fullständigt. Manasco gav Butler Snow tio dagar att lämna in ett förslag som beskriver deras plan för att hantera problemet innan ett beslut om sanktioner fattas. De bedrägliga AI-citaten kom fram i ett schema- och tidsplanerättsligt tvist. Butler Snow försökte depolera Johnson, som fortfarande är fängslad, men Johnsons advokater invände och hänvisade till ofullständiga dokument de borde få i förväg. Butler Snows ansökan om att verkställa en snabbutlåtelse om deposition hänvisade till fyra påstådda överklaganderätter, vilka alla var fabricerade. Några av dessa liknade riktiga citat men var antingen irrelevanta eller historiskt orelaterade, till exempel ett Kelley mot City of Birmingham från 2021, som i verkligheten var en hastighetsbötesdom från 1939. Johnson:s advokater lämnade in en motion som anklagade Butler Snow för att ha förlitat sig på ”generativ artificiell intelligens” för att skapa fabricerade citat och pekade på ytterligare ett falskt citat i tidigare inlagor i samband med upptäcktsförfarandet. Manasco, med hänsyn till allvaret, genomförde oberoende sökningar och fann inga bevis för de citerade fallen. Reeves medgav att han hastigt använde ChatGPT för att hitta citat utan att själv verifiera dem i Westlaw eller Pacer och uttryckte djup ånger. Damien Charlotin, en Paris-baserad juridisk forskare som följer sådana fall, noterar en accelerering av inlagor som innehåller falskt AI-innehåll den senaste tiden, men påpekar att domstolar har varit förlåtande och reserverat stränga straff, såsom stora böter och suspenderingar, främst för advokater som inte tar ansvar. Han förutspår att striktare policyer och tillämpning kommer att införas förr eller senare. Förutom Johnsons fall har Lunsford och Butler Snow kontrakt för flera större civila rättighetsmål mot Alabama Department of Corrections, inklusive ett av USAs justitiedepartement under Trump-administrationen 2020, som lyfte liknande systematiska problem som strider mot Eighth Amendment’s förbud mot grym och ovanlig bestraffning. Endast detta fall hade ett avtal värt nästan 15 miljoner dollar över två år. Vissa lagstiftare i Alabama har ifrågasatt de stora betalningarna till Butler Snow, men det senaste misstaget har inte skakat åklagarens förtroende. På förhandlingen, när de frågades om de skulle fortsätta samarbeta med Butler Snow, bekräftade en advokat från åklagarbyrån att fr. Lunsford fortfarande är deras ”rådgivare av första val. ”