Během méně než osmnácti měsíců oznámil Frankie Johnson, který je ve věznici William E. Donaldson blízko Birminghamu v Alabamě, že byl přinejmenším dvacetkrát pobodán. V prosinci 2019 byl pobodán „nejméně devětkrát“ ve své ubytovací jednotce. V březnu 2020 ho po skupinové terapii, když mu policejní důstojník připoutal ke stolu, napadl jiný vězeň a pobodal ho pětkrát. Později téhož roku, v listopadu, když byl spoután a eskortován na vězeňské nádvoří, ho další vězeň napadl ledovou špicí a dostal pět až šest bodných ran, přičemž dva vězeňští strážní to přihlíželi; Johnson tvrdí, že jeden z nich během útoku povzbudil jako odplatu za předchozí spor. V roce 2021 Johnson podal žalobu proti vězeňským úředníkům v Alabamě, v níž uvádí selhání v ochraně, rozšířenou násilností, nedostatečným personálem, přeplněností a systémovou korupcí. Aby obhájili případ, právní kancelář Butler Snow, která je často placena miliony dolarů státem za obranu problematického vězeňského systému včetně William Lunsforda, vedoucího skupiny pro ústavní a občanská práva, byla najata kancelář amerického generálního prokurátora. Ta však nyní čelí sankcím od federálního soudce dohledu nad Johnsonovým případem poté, co právník Matthew Reeves, pracující s Lunsfordem, citoval neexistující případy vzniklé umělou inteligencí (AI). Tato událost je součástí rostoucího trendu, kdy se právníci dostávají do potíží kvůli zařazení vymýšlených informací generovaných AI do soudních podání. Globální databáze identifikovala 106 takových případů „halucinací AI“ ve soudních dokumentech. Minulý rok byl advokát na Floridě dočasně suspendován na rok za citování vymyšlených případů generovaných AI, a nedávno v Kalifornii soudce federálního soudu udělil kanceláři pokutu přes 30 000 dolarů za zahrnutí falešného výzkumu vytvořeného AI do podání. Na slyšení v Birminghamu naznačila soudkyně okresního soudu USA Anna Manasco, že zvažuje různé sankce – od pokut a povinných pokračujících právních kurzů až po doporučení licenčním komisím či dočasné suspendace – proti Butler Snow poté, co Reeves použil ChatGPT k vložení nepravdivých citací do podání týkajícího se sporů o výslech a objevování důkazů. Manasco kritizovala předchozí sankce v jiných případech jako nedostatečné a označila tento případ za „důkaz, že jsou nedostatečné“. Zástupci Butler Snow vyjádřili lítost a přijali případné sankce, přičemž upozornili na firemní politiku vyžadující schválení použití AI pro právní výzkum. Reeves se plně zodpověděl a přiznal, že ignoroval tuto politiku, přestože byl obeznámen s omezeními AI, a požádal, aby jeho kolegové nebyli potrestáni.

Firma byla najata a je placena státem na obranu bývalého komisaře Alabamského oddělení vězeňství Jeffersona Dunna. Lunsford začal přezkoumávat předchozí podání na jiná falešná citace, přiznal však, že odpověď firmy ještě není úplná. Manasco dala Butler Snow deset dní na podání návrhu s plánem, jak řešit problém, předtím než rozhodne o sankcích. Podvodné citace AI se objevily uprostřed sporu ohledně termínu soudního jednání. Butler Snow se snažila vyslechnout Johnsona, který stále je ve vězení, ale jeho právníci se proti tomu ohradili, protože měli obdržet nedokončené dokumenty dříve. Podání Butler Snow k prosazení urychleného výslechu uvádělo čtyři údajné odvolací případy, které měly tyto výslechy umožnit, avšak všechny byly vymyšlené. Některé případy napodobovaly skutečné citace, ale byly irelevantní nebo historicky nesouvisející, například případ Kelley proti městu Birmingham z roku 2021, který ve skutečnosti byl případem o rychlostiřízené pokutě z roku 1939. Právníci Johnsonových podali návrh obviňující Butler Snow ze spoléhání na „generativní umělou inteligenci“ při vytváření falešných citací a identifikovali další falešnou citaci v dřívějších dokumentech o sporech o důkazy. Manasco, která brala situaci vážně, provedla nezávislé vyhledávání a nenašla žádné důkazy o citovaných případech. Reeves přiznal, že se unáhlil při používání ChatGPT k hledání citací bez jejich nezávislé kontroly ve Westlaw nebo Pacer, a hluboce litoval. Damien Charlotin, právní výzkumník z Paříže sledující podobné případy, poznamenal, že počet podání obsahujících falešný obsah AI nedávno vzrostl, ale dodal, že soudy zatím jednají shovívavě a tvrdší tresty, jako jsou vysoké pokuty nebo dočasné suspendace, udělují hlavně právníkům, kteří nechtějí převzít zodpovědnost. Předpovídá, že přísnější postup bude v budoucnu následovat. Kromě případu Johnsona mají Lunsford a Butler Snow smlouvy na několik významných žalob týkajících se občanských práv proti Oddělení vězeňství v Alabamě, včetně jednoho podávaného Ministerstvem spravedlnosti USA za vlády Trumpa v roce 2020, který odhaloval podobné systémové problémy porušující Ústavou zakázané kruté a neobvyklé tresty. Tento případ měl smlouvu v hodnotě téměř 15 milionů dolarů na dva roky. Někteří zákonodárci v Alabamě zpochybnili vysoké platby Butler Snow, nicméně nedávná chyba nezměnila důvěru generálního prokurátora. Na slyšení, když se zeptali, zda budou v spolupráci s Butler Snow pokračovat, právník kanceláře generálního prokurátora potvrdil, že pan Lunsford zůstává jejich „voleným právníkem“.