Federalni sodnik v Birminghamu, Alabama, preučuje, ali naj sankcionira ugledno odvetniško družbo Butler Snow po odkritju pet lažnih pravnih citatov v nedavnih sodnih vlogah, ki se nanašajo na odmevni primer, povezan z varnostjo zapornika v kaznilnici William E. Donaldson, kjer je bil zapornik večkrat zabodene. Ta zadeva je pritegnila nacionalno pozornost zaradi povezave z uporabo umetne inteligence (UI) pri pravnih raziskavah, kar poudarja tveganja nezanesljivih informacij, ustvarjenih z umetno inteligenco. U. S. sodnica Anna Manasco, ki vodi primer, je opazila, da so napačni citati AI-jem generirane "halucinacije", izmišljeni sklici, ki jih je ustvarila orodja, kot je ChatGPT. Ti netočni citati so se pojavili v dveh vlogah družbe Butler Snow, ki pravdna proti uradnikom zapora, obtoženim, da niso varovali varnosti zapornikov. Prisotnost takih napak v uradnih sodnih dokumentih povzroča resne skrbi glede integritete pravnih raziskav družbe in širših posledic zanašanja na AI v kritičnih pravnih kontekstih. Vse je razkrljeno po pregledu primera, ki je razkril, da noben od petih citiranih primerov ni podpiral pravnih argumentov. Nadaljnje preiskave so potrdile, da so bili ti sklici ustvarjeni z ChatGPT-jem. Butler Snow je priznal, da ni samostojno preveril citatov pred njihovim vključitvijo v vloge. Matt Reeves, partner v družbi Butler Snow, vpleten v primer, je sprejel odgovornost in pojasnil, da je uporabil ChatGPT za pospešitev raziskav, vendar ni opravil preverjanja informacij. "Prevzemam popolno odgovornost za napake. To je bilo pomanjkanje v našem standardnem preverjanju, " je dejal. Štirim drugim odvetnikom, med njimi tudi vodji oddelka Billu Lunsfordu—ki je prav tako zavezni državni odvetnik—je bilo odobreno podpisovanje vlog, pri čemer je Lunsford priznal, da je naredil le površni pregled, kar razkriva pomanjkljivosti v nadzoru. Butler Snow, dolgoletna družba, ki jo je država Alabama plačevala milijone za pravne postopke v zvezi s kaznilnicami, se zdaj sooča z večjo pozornostjo zaradi neposrednega vpliva njihovega dela na dobrobit zapornikov in upravljanje pravice.

Družba je izdala izjavo, v kateri izrazila globoko sramoto zaradi napak, ter ponovno potrdila zavezanost strogim pravnim standardom in obljubila izboljšane varovalke za preprečitev ponovitev. Sodnica Manasco je dala družbi Butler Snow deset dni časa za odgovor, medtem ko razmišlja o disciplinskih ukrepih, ki lahko vključujejo globe ali druge sankcije za ohranjanje sodniškega integriteta in odvračanje od prihodnjih nezakonitih dejanj. Njen interes za ta primer odraža vse večjo sodno skrb glede uporabe umetne inteligence v zakonodaji, zlasti glede na njen trend ustvarjanja neresničnih ali izmišljenih vsebin, če je ne nadzoruje. Ta incident predstavlja enega prvih odmevnih primerov, ko so vsebina, ustvarjena z umetno inteligenco, pomembno vplivala na dokumente ameriškega zveznega sodišča, ter služi kot opomnik pravnim strokovnjakom po vsej državi. Ker se umetna inteligenca vse bolj vpleta v industrije, se pravniki soočajo z nujnimi izzivi, kako ohranjati etiko, zagotavljati točnost ter upravljati tveganja avtomatizacije v občutljivih pravnih zadevah. Primer poudarja ključno vlogo človeškega nadzora pri raziskavah, ki jih podpira UI. Čeprav lahko UI poveča učinkovitost, ne more nadomestiti previdnega presoje, strokovnosti in preverjanja, ki ga zagotavljajo odvetniki. Napaka družbe Butler Snow razkriva, da tudi uveljavljene družbe niso imune na pasti tehnologije brez ustrezne skrbnosti. Pravni strokovnjaki pozivajo, naj ta primer sproži široko razpravo o vlogi umetne inteligence v pravni praksi. Pri razvoju novih pristopov in smernic za reševanje vprašanj UI se pričakujejo jasnejši brezčasni standardi. Medtem naj odvetniki skrbno preverjajo vse podatke, ustvarjene z UI, preden se nanje zanašajo v sodnih postopkih. Poleg neposrednih vpletenih zadeva sproža širšo družbeno in sodno razpravo o zaupanju, odgovornosti ter spreminjajočem se odnosu med tehnologijo in pravom. Rezultat sodnikine preiskave in morebitne sankcije zoper Butler Snow bi lahko postavili precedens v regulaciji vpliva UI na pravne raziskave in pravdo. Medtem ko pravna skupnost spremlja razvoj dogodkov, ta primer močno poudarja, da je točnost in integriteta temeljnega pomena v pravnem delu. Hkrati ilustrira izzive, s katerimi se sodišča in odvetniki soočajo pri integraciji novih tehnologij v okvire, zasnovane za ohranjanje pravice in zaščito pravic. Na kratko, nenamerno uporabo lažnih citatov, ustvarjenih z umetno inteligenco, v občutljivem tožbenem postopku glede varnosti zapornikov je osvetlila ključne skrbi glede vloge UI v pravdi. Sodna reakcija si prizadeva nasloviti to nepravilnost in okrepiti standarde, ki zagotavljajo zaupanje v pravne postopke. Ta primer predstavlja prelomen trenutek v nenehni razpravi o mestu UI v pravdi ter o odgovornosti pravnih strokovnjakov, ki uporabljajo tovrstna orodja.