Σε λιγότερο από δεκαοκτώ μήνες, ο Φράνκι Τζόνσον, που κρατείται στη φυλακή William E. Donaldson κοντά στο Μπέρμιχανγκ, Αλαμπάμα, ανέφερε ότι έχει δεχθεί περίπου 20 μαχαιριές. Τον Δεκέμβριο του 2019, είχε δεχθεί τουλάχιστον εννέα μαχαιριές στη μονάδα στέγασης του. Τον Μάρτιο του 2020, αφού είχε δεθεί με χειροπέδες σε γραφείο από αστυνομικό μετά από ομαδική θεραπεία, ένας άλλος κρατούμενος τον μαχαίρωσε πέντε φορές. Αργότερα εκείνη τη χρονιά, τον Νοέμβριο, αφού τον είχαν δεμένο και συνοδεύσει στην αυλή της φυλακής, ο Τζόνσον δέχθηκε επίθεση με ένα παγάκι από έναν άλλο κρατούμενο, λαμβάνοντας πέντε-έξι μαχαιριές ενώ δύο σωφρονιστικοί υπάλληλοι παρακολουθούσαν· ο Τζόνσον ισχυρίζεται πως ένας υπάλληλος ενθάρρυνε την επίθεση ως αντίποινα για προηγούμενη διαμάχη. Το 2021, ο Τζόνσον υπέβαλε αγωγή κατά των υπευθύνων της φυλακής στην Αλαμπάμα, επικαλούμενος αμέλεια στην προστασία του, εκτεταμένη βία, έλλειψη προσωπικού, υπερπληθυσμό και συστημική διαφθορά. Για την υπεράσπιση της υπόθεσης, το γραφείο του γενικού εισαγγελέα της Αλαμπάμα ανέθεσε στη law firm Butler Snow, η οποία πληρώνεται συχνά εκατομμύρια από το κράτος για την υπεράσπιση του προβληματικού συστήματος φυλακών, ειδικά του William Lunsford, επικεφαλής της ομάδας συνταγματικών και πολιτικών δικαιωμάτων. Ωστόσο, η εταιρεία αντιμετωπίζει τώρα κυρώσεις από τον ομοσπονδιακό δικαστή που εποπτεύει την περίπτωση του Τζόνσον, μετά από την αποκάλυψη ότι ένας δικηγόρος της, ο Matthew Reeves, συνεργάστηκε με τον Lunsford και ανέφερε υποθέσεις που δεν υπάρχουν, βασισμένες σε τεχνητή νοημοσύνη (AI). Αυτό το περιστατικό αποτελεί μέρος μιας αυξανόμενης τάσης όπου οι δικηγόροι υφίστανται κυρώσεις για την περιληψη ψευδών πληροφοριών που δημιουργούνται από AI σε νομικές καταθέσεις. Μια παγκόσμια βάση δεδομένων έχει καταγράψει 106 τέτοιες περιπτώσεις «παραληρηματικών φαινόμενων AI» σε δικαστικά έγγραφα. Πέρυσι, ένας δικηγόρος αναστάλθηκε για ένα χρόνο στη Φλόριντα επειδή ανέφερε ψευδείς υποθέσεις που δημιουργήθηκαν από AI, και πρόσφατα στην Καλιφόρνια, ένας ομοσπονδιακός δικαστής επέβαλε πρόστιμο άνω των 30. 000 δολαρίων σε μια εταιρεία για την περιγραφή ψευδών ερευνών που προήλθαν από AI σε μια περίληψη. Σε ακρόαση στο Μπέρμιχανγκ, η ομοσπονδιακή δικαστής Anna Manasco δήλωσε πως εξετάζει διάφορες κυρώσεις—από πρόστιμα και υποχρεωτική συνεχής νομική εκπαίδευση μέχρι αναφορές σε συμβούλια αδειοδότησης και προσωρινές αναστολές—εναντίον της Butler Snow, μετά από τη χρήση του ChatGPT από Reeves για την εμφάνιση ψευδών παραπομπών σε καταθέσεις και διαφορές ανακάλυψης. Η Manasco επαίνεσε τις προηγούμενες κυρώσεις σε άλλες υποθέσεις ως ανεπαρκείς, χαρακτηρίζοντάς την αυτήν ως «απόδειξη ότι ήταν ανεπαρκείς». Οι δικηγόροι της Butler Snow εξέφρασαν απογοήτευση και αποδέχθηκαν πιθανές κυρώσεις, σημειώνοντας την πολιτική της εταιρείας που απαιτεί έγκριση πριν από τη χρήση AI για νομική έρευνα. Ο Reeves αναγνώρισε πλήρως την ευθύνη του, παραδεχόμενος πως αγνόησε αυτήν την πολιτική παρά την επίγνωση των περιορισμών της AI, και ζήτησε οι συναδέλφοι του να μην τιμωρηθούν. Η εταιρεία διορίστηκε και πληρώνεται από το κράτος για την υπεράσπιση του Jefferson Dunn, πρώην επικεφαλής της Department of Corrections της Αλαμπάμα.

Ο Lunsford έχει αρχίσει να εξετάζει προηγούμενες καταθέσεις για άλλες ψευδείς παραπομπές, αν και ανέφερε πως η ανταπόκριση της εταιρείας δεν έχει ολοκληρωθεί ακόμη. Η Manasco έδωσε στη Butler Snow δέκα ημέρες για να υποβάλει αίτηση σχετικά με το σχέδιό τους να αντιμετωπίσουν το ζήτημα, προτού αποφασίσει για τις κυρώσεις. Οι ψευδείς αναφορές AI εμφανίστηκαν σε μια διαμάχη χρονοπρογραμματισμού. Η Butler Snow επιδίωξε να καταθέσει εναντίον του Τζόνσον, ο οποίος εξακολουθεί να κρατείται, αλλά οι δικηγόροι του Τζόνσον αντιτάχθηκαν, επικαλούμενοι ελλιπή έγγραφα που έπρεπε να λάβουν εκ των προτέρων. Η αίτηση της Butler Snow για την επιβολή άμεσης κατάθεσης ανέφερε τέσσερις υποτιθέμενες εφέσιμες υποθέσεις αναίρεσης δικαστικών αποφάσεων, αλλά όλες ήταν ψευδείς. Μερικές μιμούνταν πραγματικές παραπομπές, αλλά ήταν είτε άσχετες είτε παλαιότερων χρόνων, όπως η υπόθεση Kelley κατά της πόλης Birmingham του 2021, η οποία στην πραγματικότητα ήταν μια υπόθεση ταχύπλωσης το 1939. Οι δικηγόροι του Τζόνσον υπέβαλαν αίτηση κατηγορώντας τη Butler Snow πως χρησιμοποίησε «γεννητική τεχνητή νοημοσύνη» για τη δημιουργία ψευδών παραπομπών και εντόπισαν άλλη μια ψευδή αναφορά σε προηγούμενες καταθέσεις. Η Manasco, λαμβάνοντας υπόψη τη σοβαρότητα, διεξήγαγε ανεξάρτητες αναζητήσεις και δεν βρήκε αποδεικτικά στοιχεία των αναφερόμενων υποθέσεων. Ο Reeves παραδέχτηκε πως χρησιμοποίησε βιαστικά το ChatGPT για να βρει παραπομπές, χωρίς να τις επαληθεύσει ανεξάρτητα σε Westlaw ή Pacer, και εξέφρασε βαθιά μεταμέλεια. Ο Damien Charlotin, ερευνητής νομικών θεμάτων από το Παρίσι που παρακολουθεί τέτοιες υποθέσεις, σημείωσε πως υπάρχει επιτάχυνση στις καταθέσεις με ψευδείς περιεχόμενο AI πρόσφατα, αλλά ανέφερε πως τα δικαστήρια έχουν υπάρξει επιεική, reserving αυστηρές ποινές όπως μεγάλα πρόστιμα και αναστολές κυρίως για δικηγόρους που δεν αποδέχονται την ευθύνη. Προβλέπει ότι η αυστηρότερη επιβολή θα έρθει τελικά. Πέρα από την περίπτωση Τζόνσον, η Lunsford και η Butler Snow έχουν συμβόλαια για αρκετές σημαντικές αγωγές πολιτικών δικαιωμάτων κατά της Department of Corrections της Αλαμπάμα, συμπεριλαμβανομένης μιας από το Υπουργείο Δικαιοσύνης των ΗΠΑ υπό την προεδρία Τραμπ το 2020, που αναδεικνύει ανάλογα συστημικά προβλήματα που παραβιάζουν το άρθρο VIII του Συντάγματος περί απάνθρωπης και παράξενης τιμωρίας. Μόνη αυτής της υπόθεσης το συμβόλαιο αξίας σχεδόν 15 εκατομμυρίων δολαρίων σε δύο χρόνια. Μερικοί νομοθέτες της Αλαμπάμα έχουν αμφισβητήσει τις σημαντικές πληρωμές προς Butler Snow, αλλά το πρόσφατο σφάλμα δεν έχει διαταράξει την εμπιστοσύνη του γενικού εισαγγελέα. Στην ακρόαση, όταν ρωτήθηκε αν θα συνεχίσουν με Butler Snow, ένας δικηγόρος από το γραφείο του γενικού εισαγγελέα επιβεβαίωσε πως ο κ. Lunsford παραμένει η «καταλληλότερη επιλογή» τους.