On sekiz aydan daha kısa bir sürede, Alabama, Birmingham yakınlarındaki William E. Donaldson hapishanesinde tutuklu Frankie Johnson yaklaşık 20 kez bıçaklandığını bildirdi. Aralık 2019'da, konut biriminde en az dokuz kez bıçaklandığını belirtti. Mart 2020'de, grup terapisi sonrası bir memur tarafından maske kelepçelenmişken, başka bir mahkum ona beş kez bıçakla saldırdı. Aynı yıl Kasım ayında, kelepçelenip hapishane avlusuna götürüldükten sonra, Johnson başka bir mahkum tarafından buz çakısı ile saldırıya uğradı ve beş-dört bıçak yarası aldı; iki gardiyan izlerken, Johnson saldırıyı bir memurun önceden çıkan bir tartışmanın intikamı olarak teşvik ettiğini iddia etti. 2021 yılında, Johnson Alabama hapishane yetkililerine, kendisini korumamada başarısızlık, yaygın şiddet, personel yetersizliği, aşırı kalabalık ve sistemik yolsuzluk nedeniyle dava açtı. Davayı savunmak üzere, Alabama başsavcı yardımcılığı, devlet tarafından sık sık milyonlarca dolar ödenen Butler Snow hukuk firmasını devreye soktu; özellikle anayasal ve medeni haklar grubunun başkanı William Lunsford’un yer aldığı bu firma, hapishane sistemini savunuyordu. Ancak, firma şu anda Johnson davasını yöneten federal hakimden yaptırım riskiyle karşı karşıya; çünkü oradaki avukat Matthew Reeves, Lunsford ile birlikte çalışırken, yapay zekâ (AI) tarafından üretilen var olmayan davalara dayanan sahte referanslar kullandı. Bu olay, avukatların sahte yapay zekâ çıktısı bilgiler içeren yasal dilekçeler nedeniyle yaptırımlarla karşılaşmaya başladığı büyüyen bir trendin parçasıdır. Küresel bir veritabanı, mahkeme belgelerinde “AI halüsinasyonu” olarak adlandırılan 106 örneği tespit etti. Geçen yıl, Florida’da bir avukatın sahte AI temelli davalara atıfta bulunduğu için bir yıl uzaklaştırılmasına karar verildi; yakın zamanda ise California’da bir federal yargıç, bir firmayı yanlış AI araştırmaları içeren dilekçe nedeniyle 30. 000 doların üzerinde para cezasına çarptırdı. Birmingham'daki bir duruşmada, ABD Bölge Yargıcı Anna Manasco, Reeves’in ChatGPT’yi kullanarak dosya ve tanıklık uyuşmazlıklarıyla ilgili sahte alıntılar yapmasına tepki göstererek, Butler Snow’a çeşitli yaptırımlar (para cezaları, sürekli hukuki eğitim, lisans başvuru komitelerine yönlendirme ve geçici askıya alma gibi) uygulanmasını düşündüğünü dile getirdi. Manasco, önceki başka davalarda uygulanan yaptırımların yetersiz olduğunu eleştirerek, bu davanın “pozitif kanıt” olduğunu ve yetersiz kaldıklarını belirtti. Butler Snow’un avukatları, duruşma sırasında pişmanlıklarını dile getirip potansiyel yaptırımları kabul etti ve firma politikalarının, yapay zekâ kullanmadan önce onay alınmasını zorunlu kıldığını belirtti. Reeves ise, bu politikayı bilmesine rağmen AI’nin sınırlamalarını göz ardı ederek, sorumluluğu tamamen üstlendi ve meslektaşlarının cezalandırılmamasını istedi. Firma ise, Alabama İnfaz Dairesi eski komiseri Jefferson Dunn’u savunmak üzere devlete ait olup ödenen bir firmadır.

Lunsford, diğer sahte alıntılarla ilgili önceki dosyaları incelemeye başladı ancak toplamda henüz tamamlanmamış bir yanıt olduğunu kabul etti. Manasco, Butler Snow’un sorunu ele almak için on gün içinde bir plan sunmasını isteyerek, yaptırımlar konusunda kararını erteledi. Sahte AI alıntıları, bir planlama anlaşmazlığı sırasında ortaya çıktı. Butler Snow, halen hapiste olan Johnson’ı tanık olarak dinletmek istedi, fakat Johnson’ın avukatları, önceden almaları gereken eksik belgeleri göstererek itiraz etti. Butler Snow’un, böyle bir duruşmaya izin veren dört temyiz davasını gösterdiği dilekçesi ise, hepsi sahteydi. Bazıları gerçek alıntıları taklit etse de, ilgisiz ya da tarihsel olarak alakası olmayan örnekler bulunuyordu; örneğin, 2021 yapımı Kelley v. City of Birmingham davası, aslında 1939 yılında bir hız limitini aşma cezasına ilişkin bir davaydı. Johnson’un avukatları, Butler Snow’un “üretici yapay zekâ” kullanarak sahte alıntılar ürettiği iddiasıyla başvuruda bulundu ve önceki araştırmalarında başka sahte alıntıların da tespit edildiğini belirtti. Manasco, bu durumun ciddiyetini fark ederek bağımsız araştırmalar yaptı ve alıntılanan davalara dair hiçbir kanıt bulamadı. Reeves ise, ChatGPT’yi hızlıca kullanarak alıntılar bulduğunu, bunu bağımsız olarak Westlaw veya Pacer üzerinden doğrulamadan yaptığını ve derin pişmanlık duyduğunu ifade etti. Paris merkezli yasal araştırmacı Damien Charlotin, bu tür sahte AI içerikli dosyaların sayısında son zamanlarda bir artış olduğunu ancak mahkemelerin genellikle hafif cezalara başvurmayı tercih ettiğini, ağır para cezaları ve askıya almalar gibi sert yaptırımların büyük ölçüde sorumluluğu kabul etmeyen avukatlar için verildiğini belirtiyor. Daha katı disiplin cezalarının zamanla uygulanacağını tahmin ediyor. Johnson davasının yanı sıra, Lunsford ve Butler Snow’un, Alabama İnfaz Dairesi’ne karşı önemli birkaç medeni haklar davası için sözleşmeleri bulunuyor. Bunlardan biri, Trump yönetimi sırasında İticamaya (Eighth Amendment) karşı işlenen sistemik sorunları vurgulayan ve 2020’de ABD Adalet Bakanlığı tarafından açılan dava da dahil. Bu dava başına yaklaşık 15 milyon dolarlık sözleşme kapsamındaydı. Bazı Alabama milletvekilleri, Butler Snow’a yapılan büyük ödemeleri sorguladı, ancak son hata, başsavcı güvenini sarstı. Duruşmada, Butler Snow ile devam edip etmeyecekleri sorulduğunda, başsavcı yardımcısından biri, Bay Lunsford’un “tercih edilen danışmanları” olarak kalmaya devam edeceğini açıkladı.