In weniger als achtzehn Monaten berichtete Frankie Johnson, der im William E. Donaldson-Gefängnis bei Birmingham, Alabama, inhaftiert ist, etwa 20 Mal niedergestochen worden zu sein. Im Dezember 2019 wurde er mindestens neun Mal in seiner Unterkunftszone im Gefängnis attackiert. Im März 2020 stach ihn nach einer Gruppentherapie, bei der er von einem Beamten an einen Schreibtisch gefesselt war, ein anderer Insasse fünf Mal. Später im selben Jahr, im November, wurde Johnson nach Fesselung und Begleitung in den Gefängnishof von einem anderen Insassen mit einem Eispickel attackiert und erhielt dabei fünf bis sechs Stichwunden, während zwei Vollzugsbeamte zusahen; Johnson behauptet, ein Beamter habe die Attacke unterstützt, als Rache für einen früheren Streit. Im Jahr 2021 reichte Johnson eine Klage gegen die Gefängnisbehörden Alabamas ein, in der er Versäumnisse beim Schutz, weit verbreitete Gewalt, Personalmangel, Überfüllung und systemische Korruption anprangerte. Um den Fall zu verteidigen, engagierte die Staatsanwaltschaft von Alabama die Kanzlei Butler Snow, die häufig mit Millionenaufträgen vom Bundesstaat bezahlt wird, um das angeschlagene Gefängnissystem, insbesondere den Leiter der Zivilrechts- und Verfassungsrechtssparte, William Lunsford, zu verteidigen. Die Kanzlei sieht sich nun Sanktionen eines Bundesrichters gegenüber, der Johnsons Fall überwacht, nachdem ein dort tätiger Anwalt, Matthew Reeves, der mit Lunsford zusammenarbeitete, Fälle zitiert haben soll, die angeblich durch künstliche Intelligenz (KI) generiert wurden, in Wirklichkeit aber nicht existieren. Dieser Vorfall ist Teil eines wachsenden Trends, bei dem Anwälte Repressalien für die Verwendung von erfundenen KI-generierten Informationen in Rechtsdokumenten drohen. Eine globale Datenbank identifizierte 106 solcher Fälle von „KI-Halluzinationen“ in Gerichtsdokumenten. Im vergangenen Jahr wurde ein Anwalt in Florida für ein Jahr suspendiert, weil er erfundene KI-generierte Fälle zitiert hatte, und kürzlich wurde in Kalifornien eine Kanzlei von einem Bundesrichter mit über 30. 000 USD wegen falscher KI-gestützter Recherche in einer Stellungnahme bestraft. Bei einer Anhörung in Birmingham gab Bundesrichterin Anna Manasco an, dass sie verschiedene Sanktionen prüft – von Geldstrafen und verpflichtender Weiterbildung im Recht bis hin zu Verweisungen an Zulassungsbehörden und temporären Sperren – gegen Butler Snow, nachdem Reeves ChatGPT benutzt hatte, um falsche Zitate in Einreichungen im Zusammenhang mit Depositionen und Beweisführungsstreitigkeiten einzufügen. Manasco kritisierte frühere Sanktionen in anderen Fällen als unzureichend und bezeichnete diesen Fall als „den Beweis schlechthin“, dass diese unzureichend seien. Die Anwälte von Butler Snow zeigten sich reumütig und wurden bereit erklärt, mögliche Sanktionen zu akzeptieren. Sie verwiesen auf eine Firmenpolitik, die eine Genehmigung vor der Nutzung von KI für Rechtsrecherchen vorschreibt. Reeves übernahm die volle Verantwortung, gestand ein, diese Policy ignoriert zu haben, obwohl er sich der Grenzen der KI bewusst war, und bat darum, seine Kollegen nicht zu bestrafen.

Die Kanzlei wurde vom Staat beauftragt und bezahlt, um Jefferson Dunn, den früheren Kommissar des Alabama Department of Corrections, zu verteidigen. Lunsford hat damit begonnen, frühere Einreichungen auf weitere falsche Zitate zu überprüfen, räumte jedoch ein, dass die Reaktion der Kanzlei noch nicht abgeschlossen ist. Manasco gab Butler Snow zehn Tage Zeit, einen Antrag einzureichen, in dem der Plan zur Behebung des Problems dargelegt wird, bevor sie über Sanktionen entscheidet. Die gefälschten KI-Zitate kamen im Zuge eines Verfahrensstreits ans Licht. Butler Snow wollte Johnson vernehmen, der weiterhin inhaftiert ist, doch Johnsons Anwälte widersprachen, weil ihnen vorher unvollständige Dokumente vorgelegt werden sollten. Die Einreichung von Butler Snow zur Durchsetzung einer beschleunigten Vernehmung zitierte vier angebliche Berufungsfälle, die diese erlauben sollten, doch alle waren erfunden. Einige Fälle ähnelten echten Zitaten, waren aber entweder irrelevant oder historisch unbegründet, wie etwa ein behaupteter Kelley gegen Stadt Birmingham-Fall von 2021, den es tatsächlich als Fall von Geschwindigkeitsüberschreitung aus dem Jahr 1939 gibt. Johnsons Anwälte reichten einen Antrag ein, in dem Butler Snow vorgeworfen wurde, „generative künstliche Intelligenz“ zu nutzen, um gefälschte Zitate zu erstellen, und identifizierten eine weitere falsche Zitation in früheren Einreichungen im Rahmen des Beweisführungsstreits. Manasco führte unabhängige Recherchen durch, da sie die Bedeutung des Vorfalls ernst nahm, und fand keine Beweise für die genannten Fälle. Reeves gab zu, ChatGPT hastig genutzt zu haben, um Zitate zu finden, ohne diese unabhängig auf Westlaw oder Pacer zu überprüfen, und äußerte tiefes Bedauern. Damien Charlotin, ein in Paris ansässiger Rechtsexperte, der solche Fälle verfolgt, stellt fest, dass die Anzahl der Einreichungen mit falschen KI-Inhalten kürzlich zugenommen hat, aber die Gerichte bisher milde reagiert haben. Harte Strafen wie große Geldbußen oder Suspendierungen werden vor allem Anwälten vorbehalten, die keine Verantwortung übernehmen. Er erwartet, dass in Zukunft strengere Maßnahmen ergriffen werden. Neben dem Fall Johnson halten Lunsford und Butler Snow Verträge für mehrere bedeutende Zivilrechtsklagen gegen das Alabama Department of Corrections, darunter eine Klage des US-Justizministeriums unter der Trump-Administration im Jahr 2020, die ähnliche systemische Probleme aufzeigt, die den Achtung der Verfassung unter der Acht-Stopp-Regel verletzen. Für diesen Fall wurde ein Vertrag im Wert von fast 15 Millionen Dollar über zwei Jahre abgeschlossen. Einige alabamaische Gesetzgeber haben die hohen Zahlungen an Butler Snow in Frage gestellt, doch der jüngste Fehler hat das Vertrauen des Generalstaatsanwalts nicht erschüttert. Bei der Anhörung bestätigte ein Anwalt des Generalstaatsanwalts, dass Staatsanwalt Lunsford weiterhin ihr „Erstwunschanwalt“ bleibe.