Moins de dix-huit mois après son incarcération à la prison William E. Donaldson près de Birmingham, Alabama, Frankie Johnson a déclaré avoir été poignardé environ vingt fois. En décembre 2019, il a été victime d’au moins neuf coups de couteau dans son unité de logement. En mars 2020, après avoir été menotté à un bureau par un agent après une thérapie de groupe, un autre détenu l’a poignardé à cinq reprises. Plus tard cette année-là, en novembre, après avoir été menotté et escorté vers la cour de la prison, Johnson a été attaqué avec une pique à glace par un autre prisonnier, reçevant cinq à six coups de couteau tandis que deux agents correctionnels regardaient ; Johnson affirme qu’un officier avait encouragé l’attaque en représailles à un différend précédent. En 2021, Johnson a déposé une plainte contre les responsables de la prison d’Alabama, dénonçant leur manquement à le protéger, la violence généralisée, le sous-effectif, la surpopulation et la corruption systémique. Pour défendre cette affaire, le bureau du procureur général de l’Alabama a fait appel à Butler Snow, un cabinet d’avocats souvent rémunéré par des millions de dollars par l’État pour défendre son système carcéral en difficulté, en particulier William Lunsford, responsable du groupe des droits constitutionnels et civils. Cependant, le cabinet fait maintenant face à des sanctions de la part du juge fédéral supervisant l’affaire de Johnson, après qu’un avocat du cabinet, Matthew Reeves, travaillant avec Lunsford, ait cité des cas inexistants générés par une intelligence artificielle (IA). Cet incident s’inscrit dans une tendance croissante où les avocats subissent des répercussions pour avoir inclus des informations fabriquées par l’IA dans des dossiers juridiques. Une base de données mondiale a répertorié 106 cas de « hallucinations de l’IA » dans des documents judiciaires. L’année dernière, un avocat a été suspendu un an en Floride pour avoir cité des affaires fictives générées par l’IA, et récemment en Californie, un juge fédéral a infligé une amende de plus de 30 000 dollars à un cabinet pour avoir inclus une recherche fausse produite par l’IA dans un mémoire. Lors d’une audience à Birmingham, la juge fédérale Anna Manasco a indiqué qu’elle envisageait diverses sanctions — allant de amendes et formations juridiques continues obligatoires à des référencements auprès des conseils de licence et à des suspensions temporaires — contre Butler Snow suite à l’utilisation de ChatGPT par Reeves pour insérer de fausses citations dans des dossiers liés à des litiges sur la déposition et la découverte. Manasco a critiqué l’insuffisance des sanctions précédentes dans d’autres affaires, qualifiant cette situation de « preuve irréfutable » que celles-ci étaient inadéquates. Les avocats de Butler Snow ont exprimé leurs regrets et accepté d’éventuelles sanctions, soulignant qu’une politique interne exige une approbation préalable avant d’utiliser l’IA pour des recherches juridiques. Reeves a pris l’entière responsabilité, admettant avoir enfreint cette politique malgré sa connaissance des limites de l’IA, et a demandé que ses collègues ne soient pas punis. Le cabinet a été désigné, et payé par l’État, pour défendre Jefferson Dunn, ancien commissaire du Département des corrections d’Alabama.

Lunsford a commencé à examiner les anciens dossiers pour détecter d’autres citations erronées, mais a reconnu que la réponse du cabinet n’était pas encore achevée. Manasco a donné à Butler Snow dix jours pour déposer une motion décrivant leur plan pour résoudre le problème avant de décider des sanctions. Les citations frauduleuses générées par l’IA ont été découvertes lors d’un litige sur le calendrier des procédures. Butler Snow voulait faire déposer Johnson, qui reste en prison, mais ses avocats ont fait objection, invoquant des documents incomplets qu’ils devaient recevoir au préalable. La requête de Butler Snow pour faire appliquer une déposition accélérée citait quatre cas d’appel supposés autoriser de telles dépositions, mais tous étaient fabriqués. Certains cas imitaient de vraies citations mais étaient soit hors de propos, soit historiquement sans rapport, comme une affaire Kelley contre la ville de Birmingham de 2021, qui était en réalité une affaire de contravention pour excès de vitesse datant de 1939. Les avocats de Johnson ont déposé une requête accusant Butler Snow d’avoir utilisé une « intelligence artificielle générative » pour produire des citations falaises, et ont identifié une autre fausse citation dans des documents précédents liés à un litige sur la découverte. Manasco, consciente de la gravité, a mené ses propres recherches et n’a trouvé aucune preuve de ces affaires citées. Reeves a admis avoir utilisé ChatGPT de manière hâtive pour trouver des citations sans les vérifier de manière indépendante sur Westlaw ou Pacer, et a exprimé ses profondes regrets. Damien Charlotin, chercheur juridique basé à Paris spécialisé dans le suivi de tels cas, note une accélération récente dans le dépôt de dossiers contenant du contenu faussement généré par l’IA, mais souligne que les tribunaux ont généralement été indulgents, réservant les sanctions sévères comme de fortes amendes ou des suspensions principalement aux avocats qui refusent d’assumer leurs responsabilités. Il prévoit qu’une application plus stricte viendra inévitablement. Au-delà de l’affaire Johnson, Lunsford et Butler Snow détiennent des contrats pour plusieurs procès majeurs liés aux droits civiques contre le Département des corrections de l’Alabama, notamment une action du Département de la Justice des États-Unis sous l’administration Trump en 2020, mettant en lumière des problèmes systémiques similaires violant la prohibition de la torture cruelle et inhabituelle de la huitième modification. Cette affaire seule avait un contrat d’environ 15 millions de dollars sur deux ans. Certains législateurs de l’Alabama ont remis en question ces paiements importants à Butler Snow, mais l’erreur récente n’a pas ébranlé la confiance du procureur général. Lors de l’audience, lorsqu’on lui a demandé s’ils poursuivraient avec Butler Snow, un avocat du bureau du procureur général a affirmé que M. Lunsford restait leur « avocat de référence. »