Trong chưa đầy mười tám tháng, Frankie Johnson, đang thụ án tại nhà tù William E. Donaldson gần Birmingham, Alabama, đã bị báo cáo bị đâm khoảng 20 lần. Vào tháng 12 năm 2019, anh bị đâm "ít nhất chín lần" trong căn hộ của mình. Tháng 3 năm 2020, sau khi bị còng tay đến bàn làm việc bởi một cảnh sát sau buổi trị liệu nhóm, một tù nhân khác đã đâm anh năm lần. Sau đó cùng năm, vào tháng 11, sau khi bị còng tay và được dẫn tới sân tù, Johnson đã bị một tù nhân khác tấn công bằng dao trọc bơ, gây ra năm đến sáu vết đâm trong khi hai nhân viên sửa tù quan sát; Johnson cáo buộc một viên chức khuyến khích vụ tấn công nhằm trả đũa tranh chấp trước đó. Năm 2021, Johnson nộp đơn kiện các cán bộ quản lý nhà tù Alabama với lý do không bảo vệ được anh, các vụ bạo lực lan rộng, thiếu nhân viên, quá đông người giam giữ và tham nhũng hệ thống. Để bào chữa cho vụ kiện, văn phòng tổng chưởng lý Alabama đã thuê công ty luật Butler Snow, thường xuyên nhận hàng triệu đô la từ bang để bảo vệ hệ thống nhà tù có nhiều rối ren, đặc biệt là ông William Lunsford, trưởng nhóm về quyền dân sự và hiến pháp. Tuy nhiên, công ty này hiện phải đối mặt với lệnh trừng phạt từ thẩm phán liên bang giám sát vụ kiện của Johnson sau khi một luật sư của họ, Matthew Reeves, hợp tác với Lunsford, trích dẫn các vụ án không tồn tại do trí tuệ nhân tạo (AI) tạo ra. Vụ việc này là phần của xu hướng ngày càng tăng khi các luật sư phải chịu hậu quả vì bao gồm các thông tin giả mạo do AI tạo trong các hồ sơ pháp lý. Một cơ sở dữ liệu toàn cầu đã xác định 106 trường hợp “ảo giác AI” trong các tài liệu tòa án. Năm ngoái, một luật sư bị đình chỉ công tác một năm ở Florida vì trích dẫn các vụ án do AI giả mạo, và gần đây tại California, một thẩm phán liên bang đã phạt công ty này hơn 30. 000 đô la vì đưa vào các nghiên cứu giả mạo do AI tạo ra trong một bản tóm tắt. Tại phiên điều trần ở Birmingham, Thẩm phán liên bang Hoa Kỳ Anna Manasco cho biết bà đang xem xét các hình phạt khác nhau—từ tiền phạt, bắt buộc tham gia đào tạo luật liên tục đến giới thiệu vụ việc lên các hội đồng cấp phép và tạm thời đình chỉ—đối với Butler Snow sau khi Reeves sử dụng ChatGPT để chèn các trích dẫn sai trong hồ sơ liên quan đến tranh chấp về khai buộc và khám phá. Manasco chỉ trích các hình phạt trước đó trong các vụ án khác là không đủ, gọi đây là “bằng chứng rõ ràng” rằng chúng không đủ. Các luật sư của Butler Snow thể hiện sự hối tiếc và chấp nhận các hình phạt tiềm năng, lưu ý rằng công ty đã có chính sách yêu cầu phê duyệt trước khi sử dụng AI để nghiên cứu pháp lý. Reeves chịu trách nhiệm hoàn toàn, thừa nhận rằng anh đã bỏ qua chính sách này mặc dù biết rõ giới hạn của AI, và mong muốn đồng nghiệp của mình không bị trừng phạt.

Công ty này được thuê và nhận tiền của nhà nước để bảo vệ cựu ủy viên Bộ Chỉ huy Alabama, Jefferson Dunn. Lunsford đã bắt đầu xem xét các hồ sơ trước đó để tìm các trích dẫn giả mạo khác nhưng thừa nhận rằng phản ứng của công ty đến thời điểm này chưa hoàn chỉnh. Manasco đã yêu cầu Butler Snow nộp đơn đề xuất trong vòng mười ngày về kế hoạch giải quyết vấn đề trước khi đưa ra các hình phạt. Các trích dẫn giả mạo của AI xuất hiện trong bối cảnh tranh chấp về lịch trình. Butler Snow muốn tiến hành khám xét Johnson, người vẫn còn bị giam giữ, nhưng các luật sư của Johnson phản đối, trích dẫn các tài liệu chưa đầy đủ mà họ cần nhận trước. Hồ sơ của Butler Snow để thực thi lệnh khám xét nhanh đã trích dẫn bốn vụ án phúc thẩm giả mạo cho phép các buổi khám xét đó, nhưng tất cả đều là giả mạo. Một số vụ án bắt chước các trích dẫn thực tế nhưng không liên quan hoặc không được liên hệ lịch sử, chẳng hạn như vụ Kelley kiện City of Birmingham năm 2021, thực ra là vụ xử phạt vi phạm tốc độ năm 1939. Các luật sư của Johnson đã đệ đơn cáo buộc Butler Snow dựa vào “trí tuệ nhân tạo tạo sinh” để tạo ra các trích dẫn giả và xác định một trích dẫn sai khác trong các hồ sơ tranh chấp khám xét trước đó. Manasco, nhận thấy mức độ nghiêm trọng, đã tự mình thực hiện các tìm kiếm độc lập và không tìm thấy bằng chứng về các vụ án được trích dẫn. Reeves thừa nhận đã vội vàng sử dụng ChatGPT để tìm trích dẫn mà không tự kiểm tra kỹ bằng Westlaw hoặc Pacer và bày tỏ sự hối tiếc sâu sắc. Damien Charlotin, một nhà nghiên cứu pháp luật tại Paris theo dõi các vụ như vậy, cho biết gần đây đã có sự tăng nhanh trong các hồ sơ chứa nội dung giả mạo do AI tạo ra, nhưng ông nhận xét rằng các tòa án vẫn còn khoan dung, chủ yếu phạt nặng hoặc đình chỉ các luật sư không chịu nhận trách nhiệm. Ông dự đoán rằng trong tương lai, sẽ có các biện pháp xử phạt chặt chẽ hơn. Ngoài vụ của Johnson, Lunsford và Butler Snow còn có các hợp đồng cho nhiều vụ kiện lớn về quyền công dân chống lại Bộ Chỉ huy Alabama, trong đó có một vụ của Bộ Tư pháp Hoa Kỳ dưới thời chính quyền Trump vào năm 2020, nhấn mạnh các vấn đề hệ thống tương tự vi phạm điều khoản thứ tám của Hiến pháp cấm trừng phạt tàn nhẫn và bất thường. Vụ kiện này một mình đã có hợp đồng trị giá gần 15 triệu đô la trong hai năm. Một số nhà lập pháp Alabama đã đặt câu hỏi về khoản thanh toán lớn cho Butler Snow, nhưng lỗi gần đây không làm mất niềm tin của tổng chưởng lý. Trong phiên điều trần, khi được hỏi liệu họ có tiếp tục hợp tác với Butler Snow hay không, một luật sư của văn phòng tổng chưởng lý đã khẳng định rằng ông Lunsford vẫn là “tư vấn được chọn của họ. ”