Binnen minder dan achttien maanden meldde Frankie Johnson, opgesloten in de William E. Donaldson-gevangenis nabij Birmingham, Alabama, dat hij ongeveer 20 keer was gestoken. In december 2019 werd hij "minstens negen keer" gestoken in zijn huisvestingsunit. In maart 2020, nadat hij door een officier aan een bureau was geketend na groepspsychotherapie, stak een andere gevangene hem vijf keer neer. Later dat jaar, in november, werd Johnson, nadat hij was geketend en begeleid naar de gevangenistentrein, aangevallen met een ijspriem door een andere gevangene, waardoor hij vijf tot zes steekwonden opliep terwijl twee correctionele functionarissen toekeken; Johnson beweert dat een functionaris de aanval aanspoorde als wraak voor een geschil voorafgaand aan die dag. In 2021 diende Johnson een rechtszaak in tegen de gevangenisfunctionarissen van Alabama, waarin hij klaagde over het falen om hem te beschermen, wijdverspreid geweld, onderbezetting, overbevolking en systemische corruptie. Om de zaak te verdedigen schakelde de procureur-generaal van Alabama het advocatenbureau Butler Snow in, dat vaak miljoenen ontvangt van de staat voor de verdediging van het problematische gevangenissysteem, met name van William Lunsford, hoofd van de groep voor grondwettelijke en civiele rechten. Het bureau bevindt zich echter momenteel onder sancties van de federale rechter die toezicht houdt op Johnsons zaak, nadat een advocaat daar, Matthew Reeves, in samenwerking met Lunsford, niet-bestaande zaken citeerde die door kunstmatige intelligentie (AI) waren gegenereerd. Dit incident maakt deel uit van een groeiende trend waarbij advocaten repercussies ondervinden vanwege het opnemen van gefabriceerde AI-gegenereerde informatie in juridische documenten. Een wereldwijde database heeft 106 dergelijke gevallen van "AI-hallucinaties" in rechtszaken geïdentificeerd. Vorig jaar werd een advocaat in Florida een jaar geschorst omdat hij gefabriceerde AI-zaken citeerde, en recentelijk in Californië beboette een federale rechter een advocatenbureau met meer dan $30. 000 vanwege het opnemen van valse AI-onderzoeksvermeldingen in een akte. Tijdens een hoorzitting in Birmingham gaf rechter Anna Manasco aan dat zij verschillende sancties overweegt—variërend van boetes en verplichte voortgezette juridische opleiding tot verwijzingen naar rekenkamers en tijdelijke schorsingen—tegen Butler Snow na het gebruik van ChatGPT door Reeves om onjuiste citaties in documenten over depozities en ontdekkingsdiscussies op te nemen. Manasco kritiseerde eerdere sancties in andere zaken als onvoldoende en noemde deze zaak “positief bewijs” dat ze niet streng genoeg waren. De advocaten van Butler Snow uitten spijt en accepteerden mogelijke sancties, met inachtneming van een door het bedrijf vastgestelde beleid dat voorafgaande goedkeuring vereist voordat AI wordt gebruikt voor juridisch onderzoek. Reeves nam volledige verantwoordelijkheid, erkende dat hij dit beleid had genegeerd ondanks dat hij zich bewust was van de beperkingen van AI, en verzocht dat zijn collega’s niet gestraft zouden worden. Het bureau is door de staat aangesteld en betaalt voor de verdediging van Jefferson Dunn, voormalig commissaris van het ministerie van Correcties van Alabama.

Lunsford is begonnen met het herzien van eerdere documenten op andere valse citaties, maar erkende dat de reactie van het bureau nog niet volledig is. Manasco gaf Butler Snow tien dagen de tijd om een motie in te dienen waarin zij hun plan uiteenzetten om dit probleem aan te pakken, voordat zij over sancties beslist. De frauduleuze AI-citaten kwamen aan het licht tijdens een geschil over de planning. Butler Snow wilde Johnson laten depoon, die nog steeds gevangen zit, maar Johnsons advocaten verzetten zich daartegen omdat zij incomplete documenten verwachtten die zij vooraf zouden ontvangen. De indiening van Butler Snow om een versnelde depozitie af te dwingen, citeerde vier vermeende appelzaken die dergelijke depozities zouden toestaan, maar deze waren allemaal gefabriceerd. Sommige zaken leken echte citaties na te bootsen, maar waren relevant of niet gerelateerd aan de situatie, zoals een genoemde Kelley v. City of Birmingham-zaak uit 2021, die in werkelijkheid een snelrechtzaak van 1939 was over een snelheidsovertreding. Johnson’s advocaten dienden een motie in waarin zij Butler Snow beschuldigden van het gebruik van “generatieve kunstmatige intelligentie” om gefabriceerde citaties te creëren en identificeerden nog een valse citaat in eerdere documenten over ontdekkingsdiscussies. Manasco, die de ernst van de situatie erkende, voerde onafhankelijke zoekopdrachten uit en vond geen bewijs voor de genoemde zaken. Reeves gaf toe ChatGPT haastig te hebben gebruikt om citaties te vinden zonder ze zelf te verifiëren via Westlaw of Pacer, en uitte diepe spijt. Damien Charlotin, een parijse rechts onderzoeker die dergelijke gevallen volgt, merkt op dat recent een versnelde toename is te zien in documenten met onjuiste AI-inhoud, maar dat rechtbanken tot nu toe milde straffen toepassen, zoals grote boetes en schorsingen, vooral voor advocaten die geen verantwoordelijkheid nemen. Hij verwacht dat strengere handhaving uiteindelijk zal plaatsvinden. Naast de zaak van Johnson hebben Lunsford en Butler Snow contracten voor verschillende belangrijke civiele rechtenzaken tegen het Department of Corrections van Alabama, waaronder een zaak van het Amerikaanse ministerie van Justitie onder de Trump-regering in 2020 waarin soortgelijke structurele problemen werden aangewezen die in strijd zijn met het Achtste Amendement, dat wreed en ongewone straffen verbiedt. Alleen al deze zaak betrof een contract ter waarde van bijna 15 miljoen dollar over twee jaar. Sommige Alabama-wetgevers hebben vraagtekens gezet bij de aanzienlijke betalingen aan Butler Snow, maar de recente fout heeft het vertrouwen van de procureur-generaal niet geschokt. Tijdens de hoorzitting bevestigde een advocaat van het kantoor van de procureur-generaal dat, wanneer hen werd gevraagd of zij door wilden gaan met Butler Snow, zeiden dat de heer Lunsford hun “advocaat van keuze” blijft.