W ciągu niecałych osiemnastu miesięcy Frankie Johnson, osadzony w więzieniu William E. Donaldson koło Birmingham w stanie Alabama, zgłosił, że został dwadzieścia razy dźgnięty nożem. W grudniu 2019 roku został dźgnięty „co najmniej dziewięć razy” w swojej celi. W marcu 2020 roku, po tym jak został zakuty w kajdanki do biurka przez funkcjonariusza po terapii grupowej, inny współwięzień dźgnął go pięciokrotnie. Później tego samego roku, w listopadzie, po tym jak został zakuty w kajdanki i prowadzony na teren więzienny, Johnson został zaatakowany przez innego więźnia tasakiem do lodu, odnosząc od pięciu do sześciu ran kłutych, podczas gdy dwaj strażnicy patrzyli na to; Johnson twierdzi, że jeden z nich zachęcał do napaści jako odwet za wcześniejszy konflikt. W 2021 roku Johnson złożył pozew przeciwko władzom więziennym Alabamy, oskarżając o zaniedbanie w zapewnianiu mu ochrony, powszechne przemoc, brak wystarczającej liczby personelu, przepełnienie i systemową korupcję. Aby bronić sprawy, biuro prokuratora generalnego stanu Alabama zatrudniło kancelarię Butler Snow, często opłacaną przez państwo na miliony dolarów za obronę tego problematycznego systemu więziennictwa, szczególnie kierowaną przez Williama Lunsforda, lidera grupy ds. konstytucyjnych i praw obywatelskich. Jednak kancelaria ta teraz stoi w obliczu sankcji ze strony sędziego federalnego prowadzącego sprawę Johnsona po tym, jak jeden z ich prawników, Matthew Reeves, współpracując z Lunsfordem, powołał się na nieistniejące przypadki wygenerowane przez sztuczną inteligencję (AI). Incydent ten wpisuje się w rosnący trend, gdzie prawnicy ponoszą konsekwencje za wprowadzenie do akt fałszywych informacji wygenerowanych przez AI. Globalna baza danych zidentyfikowała 106 takich przypadków „halucynacji AI” w dokumentach sądowych. W ubiegłym roku prawnik został zawieszony na rok na Florydzie za powoływanie się na spreparowane przypadki wygenerowane przez AI, a niedawno w Kalifornii sąd federalny nałożył na kancelarię karę przekraczającą 30 000 dolarów za umieszczenie fałszywych badań AI w apelacji. Na rozprawie w Birmingham sędzia federalny USA Anna Manasco zasugerowała, że rozważa różne sankcje – od grzywien i obowiązkowego szkolenia prawniczego, po kierowanie sprawy do komisji licencyjnych oraz tymczasowe zawieszenia – wobec Butler Snow po tym, jak Reeves użył ChatGPT do wstawienia fałszywych cytowań w dokumentach związanych z depozycjami i spornymi kwestiami odkrycia dowodów. Manasco skrytykowała wcześniejsze sankcje w innych sprawach jako niewystarczające, określając tę jako „potwierdzony dowód” na ich niedostateczność. Prawnicy Butler Snow wyrazili skruchę i zaakceptowali potencjalne sankcje, podkreślając, że mają wewnętrzną politykę wymagającą zatwierdzenia przed użyciem AI do badań prawnych. Reeves wziął pełną odpowiedzialność, przyznając, że zignorował tę politykę mimo świadomości ograniczeń AI, i prosił, by jego koledzy nie byli karani.

Kancelaria została wynajęta i opłacana przez stan do obrony Jeffersona Dunna, byłego komisarza Alabama Department of Corrections. Lunsford rozpoczął przegląd wcześniejszych materiałów w poszukiwaniu innych fałszywych cytowań, ale przyznał, że odpowiedź kancelarii nie jest jeszcze kompletna. Manasco dała Butler Snow dziesięć dni na złożenie wniosku opisującego ich plan rozwiązania problemu, zanim zdecyduje o sankcjach. Fałszywe cytaty od AI ujawniono w trakcie sporu dotyczącego terminu przesłuchania. Butler Snow próbowało przesłuchać Johnsona, który nadal przebywa w więzieniu, ale jego prawnicy sprzeciwili się temu, powołując się na niekompletne dokumenty, które powinni otrzymać wcześniej. Złożony wniosek Butler Snow w celu egzekwowania przyspieszonych przesłuchań powoływał się na cztery rzekome przypadki odwoławcze, które jednak były sfabrykowane. Niektóre z nich przypominały rzeczywiste cytaty, ale były albo nieistotne, albo historycznie niepowiązane, na przykład przypadek Kelley v. City of Birmingham z 2021 roku, który w rzeczywistości był sprawą z 1939 roku o mandat za przekroczenie prędkości. Prawnicy Johnsona złożyli wniosek oskarżający Butler Snow o poleganie na „generatywnej sztucznej inteligencji” w celu tworzenia sfałszowanych cytowań i wskazali na kolejną fałszywą referencję w wcześniejszych dokumentach sporządzonych w spornych przypadkach dotyczących odkrycia dowodów. Manasco, dostrzegając powagę sytuacji, przeprowadziła własne niezależne poszukiwania i nie znalazła dowodów na istnienie cytowanych spraw. Reeves przyznał, że pośpiesznie użył ChatGPT do znalezienia cytatów, nie weryfikując ich samodzielnie za pomocą Westlaw lub Pacer, i wyraził głęboki żal. Damien Charlotin, badacz prawny z Paryża, śledzący takie przypadki, zauważa przyspieszenie liczby spraw zawierających fałszywe treści od AI w ostatnim czasie, ale dodaje, że sądy wykazują pobłażliwość, z karami tak poważnymi jak duże grzywny i zawieszenia, głównie wobec prawników, którzy nie przyjmują odpowiedzialności. Przewiduje się, że w końcu nastąpią bardziej surowe sankcje. Oprócz sprawy Johnsona, Lunsford i Butler Snow mają umowy na kilka ważnych spraw cywilnych przeciwko Alabama Department of Corrections, w tym jedną prowadzoną przez Departament Sprawiedliwości USA za administracji Trumpa w 2020 roku, podkreślającą podobne systemowe problemy naruszające zakaz okrutnych i niezwykłych kar zawarty w VIII poprawce. Ta jedna sprawa opiewała na kontrakt o wartości prawie 15 milionów dolarów na dwa lata. Niektórzy legislatorzy Alabamy kwestionowali znaczne płatności na rzecz Butler Snow, ale ostatni błąd nie osłabił zaufania prokuratora generalnego. Podczas rozprawy, gdy zapytano, czy planują kontynuować współpracę z Butler Snow, przedstawiciel biura prokuratora generalnego potwierdził, że pan Lunsford jest nadal ich „prawnikiem wybranym”.