Dalam waktu kurang dari delapan belas bulan, Frankie Johnson, yang dipenjara di penjara William E. Donaldson dekat Birmingham, Alabama, melaporkan bahwa dirinya diserang dan ditusuk sekitar 20 kali. Pada Desember 2019, ia ditusuk "setidaknya sembilan kali" di unit tempat tinggalnya. Pada Maret 2020, setelah diborgol di sebuah meja oleh petugas setelah terapi kelompok, seorang napi lain menusuknya lima kali. Kemudian di tahun yang sama, pada November, setelah diborgol dan diantar ke halaman penjara, Johnson diserang dengan sebuah penjepit es oleh napi lain, mendapatkan lima sampai enam luka tusuk sementara dua petugas keamanan menyaksikan; Johnson mengklaim bahwa salah satu petugas mendorong serangan tersebut sebagai pembalasan atas perselisihan sebelumnya. Pada 2021, Johnson mengajukan gugatan terhadap pejabat penjara Alabama dengan alasan kegagalan melindunginya, kekerasan yang meluas, kekurangan staf, kelebihan kapasitas, dan korupsi sistemik. Untuk membela kasus ini, kantor jaksa agung Alabama mengontrak Butler Snow, sebuah firma hukum yang sering dibayar jutaan dolar oleh negara untuk membela sistem penjara yang bermasalah, khususnya William Lunsford, kepala kelompok hak konstitusional dan sipil mereka. Namun, firma ini kini menghadapi sanksi dari hakim federal yang mengawasi kasus Johnson setelah seorang pengacara di sana, Matthew Reeves, bekerja sama dengan Lunsford, menyebutkan kasus-kasus yang tidak ada dan dibuat-buat menggunakan kecerdasan buatan (AI). Insiden ini merupakan bagian dari tren yang semakin berkembang di mana pengacara menghadapi konsekuensi karena menyertakan informasi palsu yang dihasilkan AI dalam dokumen hukum. Sebuah basis data global telah mengidentifikasi 106 kasus “halusinasi AI” dalam dokumen pengadilan. Tahun lalu, seorang pengacara diskors selama satu tahun di Florida karena menyebutkan kasus palsu yang dihasilkan AI, dan baru-baru ini di California, seorang hakim federal mendenda sebuah firma hukum lebih dari $30. 000 karena memasukkan penelitian palsu yang dibuat oleh AI dalam sebuah berkas. Pada sidang di Birmingham, Hakim Distrik AS Anna Manasco menyatakan bahwa ia mempertimbangkan berbagai sanksi—mulai dari denda dan pendidikan hukum berkelanjutan wajib hingga rujukan ke dewan lisensi dan penangguhan sementara—terhadap Butler Snow setelah Reeves menggunakan ChatGPT untuk menyisipkan kutipan palsu dalam dokumen yang berkaitan dengan sengketa deposisi dan penemuan bukti. Manasco mengkritik sanksi sebelumnya dalam kasus lain sebagai tidak cukup, menyebut kasus ini sebagai “bukti nyata” bahwa sanksi tersebut tidak memadai. Pengacara Butler Snow menyampaikan penyesalan dan menerima potensi sanksi, dengan menyebutkan bahwa perusahaan memiliki kebijakan untuk mendapatkan persetujuan sebelum menggunakan AI untuk penelitian hukum. Reeves menerima tanggung jawab penuh, mengakui bahwa dia mengabaikan kebijakan tersebut meskipun menyadari keterbatasan AI, dan meminta agar rekan-rekannya tidak dihukum. Firma ini diangkat dan dibayar oleh negara untuk membela Jefferson Dunn, mantan komisaris Departemen Pemasyarakatan Alabama.

Lunsford mulai meninjau dokumen sebelumnya untuk menemukan kutipan palsu lainnya tetapi mengakui bahwa tanggapan firma tersebut belum selesai. Manasco memberikan waktu sepuluh hari kepada Butler Snow untuk mengajukan usulan tentang rencana mereka dalam menangani masalah ini sebelum memutuskan sanksi. Kutipan AI palsu ini muncul di tengah sengketa penjadwalan. Butler Snow berusaha memanggil saksi Johnson, yang masih menjalani hukuman, tetapi pengacara Johnson menentang, dengan alasan bahwa dokumen-dokumen yang tidak lengkap harus diterima terlebih dahulu. Berkas Butler Snow untuk menegakkan deposisi yang dipercepat menyebutkan empat kasus banding yang diklaim mengizinkan deposisi tersebut, tetapi semuanya palsu. Beberapa kasus meniru kutipan nyata namun tidak relevan atau tidak terkait secara historis, seperti kasus Kelley v. City of Birmingham dari 2021, yang sebenarnya adalah kasus tilang kecepatan dari tahun 1939. Pengacara Johnson mengajukan usulan menuduh Butler Snow mengandalkan “kecerdasan buatan generatif” untuk membuat kutipan palsu dan mengidentifikasi kutipan palsu lain dalam dokumen sengketa penemuan bukti sebelumnya. Manasco, menyadari keseriusan, melakukan pencarian mandiri dan menemukan tidak ada bukti kasus tersebut. Reeves mengakui bahwa dia menggunakan ChatGPT dengan terburu-buru untuk mencari kutipan tanpa memverifikasi secara mandiri di Westlaw atau Pacer dan sangat menyesal. Damien Charlotin, peneliti hukum yang berbasis di Paris dan memantau kasus seperti ini, mencatat percepatan dalam pengajuan dokumen yang mengandung konten palsu dari AI belakangan ini, tetapi berkomentar bahwa pengadilan telah bersikap lunak, menahan sanksi berat seperti denda besar dan penangguhan terutama bagi pengacara yang tidak mau bertanggung jawab. Ia memperkirakan bahwa penegakan yang lebih ketat akan terjadi nantinya. Selain kasus Johnson, Lunsford dan Butler Snow memegang kontrak untuk beberapa gugatan hak sipil penting terhadap Departemen Pemasyarakatan Alabama, termasuk satu yang diajukan oleh Departemen Kehakiman AS di bawah pemerintahan Trump pada 2020 yang menyoroti masalah sistemik serupa yang melanggar larangan Amandemen Kedelapan terhadap perlakuan kejam dan tidak biasa. Kasus ini saja memiliki kontrak senilai hampir $15 juta selama dua tahun. Beberapa legislator Alabama telah mempertanyakan pembayaran besar kepada Butler Snow, tetapi kesalahan terbaru ini belum meruntuhkan kepercayaan jaksa agung. Pada sidang, ketika ditanya apakah mereka akan melanjutkan dengan Butler Snow, seorang pengacara dari kantor jaksa agung menegaskan bahwa Lunsford tetap menjadi “penasihat pilihan mereka. ”