Innenfor mindre enn atten måneder rapporterte Frankie Johnson, som var fengslet ved William E. Donaldson-fengselet nær Birmingham, Alabama, at han ble stukket omtrent 20 ganger. I desember 2019 ble han stukket "minst ni ganger" i soveavdelingen sin. I mars 2020, etter å ha blitt håndjernfestet til et skrivebord av en offiser etter gruppeterapi, ble han stukket fem ganger av en annen innsatt. Senere samme år, i november, etter å ha blitt håndjernfestet og eskortert til fengselsgården, ble Johnson angrepet med en ispinne av en annen fange, og fikk mellom fem og seks stikkskader mens to fengselsbetjenter så på; Johnson hevder at én offiser oppmuntret til angrepet som hevn for en tidligere konflikt. I 2021 la Johnson fram et søksmål mot fengselsansatte i Alabama og anklaget dem for å ha sviktet i å beskytte ham, samt for utbredt vold, personalmangel, overbefolkning og systematisk korrupsjon. For å forsvare saken engasjerte Alabama-prosessfullmektigens kontor advokatfirmaet Butler Snow, som ofte blir betalt millioner av dollar av staten for å forsvare dets problemfylte fengselsystem, spesielt leder for dets gruppe for grunnlovs- og borgerskapsrettigheter, William Lunsford. Men nå står firmaet overfor sanksjoner fra den føderale dommeren som overvåker Johnsons sak etter at en advokat der, Matthew Reeves, i samarbeid med Lunsford, siterte ikke-eksisterende saker generert av kunstig intelligens (AI). Denne hendelsen er del av en økende trend hvor advokater møter konsekvenser for å ha inkludert oppdiktet AI-generert informasjon i juridiske dokumenter. En global database har identifisert 106 slike tilfeller av "AI-hallusinasjoner" i rettsdokumenter. I fjor ble en advokat suspendert i ett år i Florida for å ha siteret oppdiktede AI-genererte saker, og nylig i California ilegges et advokatfirma en bot på over 30 000 dollar for å ha inkludert falsk AI-generert forskning i en innlevering. På en høring i Birmingham indikerte den føderale dommeren Anna Manasco at hun vurderer ulike sanksjoner—fra bøter og pålegg om kontinuerlig juridisk etterutdanning til henvisninger til lisensgivende organer og midlertidige suspensjoner—mot Butler Snow etter Reeves’ bruk av ChatGPT for å sette inn falske siteringer i innleveringer knyttet til avhørs- og oppdagelsesdisputer. Manasco kritiserte tidligere sanksjoner i andre saker som utilstrekkelige, og kalte denne saken "bevis på at de var utilstrekkelige. " Advokatene i Butler Snow uttrykte anger og aksepterte eventuelle sanksjoner, og bemerket en firma-politikk som krever godkjenning før bruk av AI for juridisk forskning. Reeves tok fullt ansvar, innrømmet at han ignorerte denne policyen til tross for bevissthet om AI-begrensninger, og ba om at kollegene hans ikke skulle straffes. Firmaet er engasjert og betales av staten for å forsvare tidligere justisminister Jefferson Dunn i Alabama.

Lunsford har begynt å gjennomgå tidligere innleveringer for andre falske siteringer, men innrømmer at firmaets respons ennå ikke er fullført. Manasco ga Butler Snow ti dager til å sende inn en begjæring som beskriver hvordan de planlegger å håndtere dette, før hun tar avgjørelse om sanksjoner. De falske AI-siteringene oppsto i forbindelse med en tvist om tidsplan. Butler Snow ønsket å avhøre Johnson, som fortsatt er fengslet, men Johnsons advokater protesterte og hevdet at de ikke hadde mottatt alle nødvendige dokumenter på forhånd. Innleveringen fra Butler Snow for å håndheve en hurtigavhør siterte fire påståtte ankeavslutninger som autoriserte slike avhør, men alle var oppdiktede. Noen saker lignet ekte sitater, men var enten irrelevante eller historisk sett ugjenkoblede, som en sitering av Kelley mot byen Birmingham fra 2021, som i virkeligheten var en sak om fartsovertredelse fra 1939. Johnson sine advokater la inn en begjæring hvor de anklaget Butler Snow for å ha brukt "generativ kunstig intelligens" til å skape oppdiktede siteringer, og identifiserte en annen falsk sitering i tidligere innleveringer i Discovery. Manasco, som forstår alvoret, foretok selv søk og fant ingen bevis for de siterte sakene. Reeves innrømmet at han hastet med å bruke ChatGPT for å finne siteringer uten å verifisere dem i Westlaw eller Pacer, og uttrykte dyp anger. Damien Charlotin, en fransk advokatsøker som følger slike saker, merker en økning i innleveringer med falskt AI-innhold de siste tidene, men sier at domstolene har vært nådeløse, og at alvorlige straffer som store bøter og suspensjon bare sjelden er aktuelle, og hovedsakelig brukes mot advokater som ikke tar ansvar. Han spår at strengere håndhevelse vil skje etter hvert. Utenfor Johnson-saken har Lunsford og Butler Snow kontrakter på flere viktige sivile rettssaker mot Alabama Department of Corrections, inkludert én av USAs Justisdepartement under Trump-administrasjonen i 2020, som påpekte lignende systematiske problemer som bryter med åttende tillegg om forbud mot grusom og unødvendig straff. Denne saken alene hadde en kontrakt verd nær 15 millioner dollar over to år. Noen alabama-politikere har stilt spørsmål ved de betydelige utbetalingene til Butler Snow, men den siste feilen har ikke svekket justisministerens tillit. På høringen, da de ble spurt om de ville fortsette å bruke Butler Snow, bekreftet en advokat fra justisdepartementets kontor at Mr. Lunsford fortsatt er deres "foretrukne advokat. "