En menys de divuit mesos, Frankie Johnson, empresonat a la presó William E. Donaldson prop de Birmingham, Alabama, va informar que havia estat apunyalat unes 20 vegades. Al desembre de 2019, va ser apunyalat " almenys nou vegades" a la seva unitat d’habitatge. Al març de 2020, després d’haver estat agreujat amb venda a un taulell per part d’un oficial després d’una teràpia de grup, un altre reclus va apunyalar-lo cinc vegades. Més tard aquell mateix any, al novembre, després d’haver estat agafat amb subjects i acompanyat a la pista de la presó, Johnson va ser atacat amb un tirabolles per un altre reclus, rebent de cinc a sis ferides per llargament, mentre dos agents penitenciaris miraven; Johnson afirma que un agent va encoratjar l’atac com a represàlia per una disputa anterior. El 2021, Johnson va presentar una demanda contra els responsables de la presó d’Alabama, citant la manca de protecció, violència generalitzada, manca de personal, sobrepoblació i corrupció sistèmica. Per defensar-se, l’oficina del fiscal general d’Alabama va contractar Butler Snow, un despatx d’advocats freqüentment pagat milions per l’estat per defensar el seu sistema penitenciari problemàtic, especialment per William Lunsford, cap del seu grup de drets constitucionals i civils. No obstant això, ara el despatx s’enfronta a sancions per part del jutge federal que supervisa el cas de Johnson després que un advocat d’allà, Matthew Reeves, que treballa amb Lunsford, cités casos que no existien i que havien estat generats per intel·ligència artificial (IA). Aquest incident forma part d’una tendència creixent on els advocats enfronten repercussions per incloure informació inventada per IA en els expedients legals. Una base de dades mundial ha identificat 106 d’aquestes instàncies de “hallucinations de IA” en documents judicials. L’any passat, un advocat va ser suspès durant un any a Florida per citar casos inventats generats per IA, i recentment, a California, un jutge federal va multar un despatx amb més de 30. 000 dòlars per incloure investigacions falses generades per IA en un document legal. En una vista a Birmingham, la jutgessa de district dels EUA, Anna Manasco, va indicar que està considerant diverses sancions —des de multes i formació legal contínua obligatòria fins a derivacions a organismes de llicència i suspensions temporals— contra Butler Snow després que Reeves utilitzés ChatGPT per inserir cites falses en expedients relacionats amb disputes de deposició i descobriment. Manasco va criticar les sancions prèvies en altres casos com inadequades, dient que aquest cas és una “prova definitiva” que no eren prou severes. Els advocats de Butler Snow van expressar penediment i van acceptar possibles sancions, destacant que la seva política de la firma requereix aprovació abans d’utilitzar IA per a la investigació legal. Reeves va assumit completa responsabilitat, admetent que va ignorar aquesta política tot i ser conscient de les limitacions de la IA, i va demanar que els seus col·legues no fossin sancionats. El despatx va ser designat i està pagat per l’estat per defensar Jefferson Dunn, excomissari del Departament de Correccions d’Alabama.

Lunsford ha començat a revisar expedients anteriors per altres cites falses, però va reconèixer que la resposta de la firma encara no està completada. Manasco va donar a Butler Snow deu dies per presentar una proposta que expliqui com abordaran la problemàtica abans de decidir sobre les sancions. Les citacions falses de IA van sorgir enmig d’una disputa per la programació. Butler Snow va buscar prendre declaració a Johnson, que continua empresonat, però els advocats de Johnson van presentar objeccions, citant documents incomplets que haurien de rebre prèviament. La presentació de Butler Snow per fer valer una deposició urgent va citar quatre suposades casos de tribunals d’apel·lació que autoritzaven aquestes deposicions, però totes van ser inventades. Alguns casos imitaven cites reals, però eren irrellevants o històricament no relacionats, com un cas citat de Kelley contra la ciutat de Birmingham de 2021, que en realitat era un cas de multa per excés de velocitat de 1939. Els advocats de Johnson van presentar una moció acusant Butler Snow d’haver utilitzat “intel·ligència artificial generativa” per crear cites inventades i van identificar una altra cita falsa en expedients anteriors sobre disputes de descoberta. Manasco, davant la gravetat, va fer búsquedas independents i no va trobar cap evidència dels casos citats. Reeves va admetre que va utilitzar de manera precipitada ChatGPT per trobar cites sense verificar-les de manera independent a Westlaw o Pacer i va mostrar un profund penediment. Damien Charlotin, un investigador legal amb seu a París que segueix aquests casos, destaca que recentment s’ha acelerat la presentació de casos amb contingut fals de IA, però comenta que els tribunals han estat indulgents, reservant sancions severes com grans multes i suspensions principalment per a advocats que no accepten la responsabilitat. Prediu que en algun moment s’imposaran sancions més estrictes. A més del cas de Johnson, Lunsford i Butler Snow tenen contractes per a diverses demandes importants en drets civils contra el Departament de Correccions d’Alabama, incloent una de l’Departament de Justícia dels EUA sota l’administració Trump el 2020, que evidenciava problemes sistèmics similars que violaven la Prohibició de càstigs cruels i inusuals de la vuitena esmena. Aquest cas sols va tenir un contracte valuat gairebé 15 milions de dòlars durant dos anys. Alguns legisladors d’Alabama han qüestionat aquestes grans quantitats pagades a Butler Snow, però l’error recent no ha desviat la confiança del fiscal general. A l’audiència, quan se’ls preguntà si continuaran amb Butler Snow, un advocat de l’oficina del fiscal general va afirmar que en Mr. Lunsford continua sent el seu “conseller de confiança”.