Federálny sudca v Birminghame, Alabama, skúma, či potrestať renomovanú právnickú firmu Butler Snow po tom, čo objavil päť falošných právnych citácií v nedávnych súdnych podaniach týkajúcich sa vysoce sledovaného prípadu týkajúceho sa bezpečnosti väzňa v nápravnému zariadení William E. Donaldson, kde bol väzeň niekoľkokrát bodnutý. Tento problém získal národnú pozornosť vďaka jeho spojitosti s využitím umelej inteligencie (AI) v právnom výskume, čím upozorňuje na riziká nespoľahlivých informácií generovaných AI. Súdkyňa USA Anna Manasco, ktorá dozerá na prípad, identifikovala falošné citácie ako „halucinácie“ generované AI, teda sfabriované odkazy vytvorené nástrojmi ako ChatGPT. Tieto nesprávne citácie sa objavili v dvoch podaniach firmy Butler Snow, ktorá vedie spory proti väzenským úradníkom obvineným z neochoty chrániť bezpečnosť väzňov. Prítomnosť takýchto chýb v oficiálnych súdnych dokumentoch vyvoláva vážne obavy o integritu právneho výskumu firmy a širšie dôsledky spoliehania sa na AI v kritických právnych kontextoch. Problém vypukol po revízii prípadu, počas ktorej bolo zistené, že žiadne zo siedmich citovaných prípadov nepodporovalo právne argumenty. Následná vyšetrovanie potvrdilo, že tieto odkazy boli vytvorené ChatGPT. Butler Snow priznal, že pred ich začlenením do podaní ich neoveril samostatne. Matt Reeves, partner firmy Butler Snow zapojený do prípadu, prijal zodpovednosť s tým, že používal ChatGPT na urýchlenie výskumu, ale zlyhal v overovaní informácií. „Nesiem plnú zodpovednosť za tieto chyby. Ide o zlyhanie našich štandardných overovacích procesov, “ povedal. Štyria ďalší právnici vrátane vedúceho oddelenia Billa Lunsforda – ktorý je tiež zástupcom generálneho prokurátora – podpísali podania, pričom Lunsford priznal, že podanie vykonal iba laicky, čo poukazuje na nedostatočný dohľad. Butler Snow, dlhoročná firma, ktorá dostala od štátu Alabama milióny dolárov za obhajobu v prípadoch týkajúcich sa väzenského systému, momentálne čelí zvýšenému dohľadu v dôsledku priameho dopadu ich práce na blaho väzňov a spravodlivosť. Firma vydala vyhlásenie, v ktorom vyjadruje hlboké zahanbenie z chýb, znovu potvrdzuje záväzok k prísnym právnym štandardom a sľubuje zavedenie lepších opatrení na predchádzanie podobným incidentom v budúcnosti. Sudkyňa Manasco dala firme Butler Snow desať dní na odpoveď, keďže zvažuje disciplinárne opatrenia, ktoré môžu zahŕňať pokuty alebo iné sankcie s cieľom zachovať súdna integritu a odradiť od budúceho nesprávneho konania.

Jej záujem o tento prípad odráža rastúci súdny záujem o využívanie AI v práve, najmä vzhľadom na tendenciu AI produkovať nesprávne alebo sfalšované údaje, ak nie je dôsledne dohliadané. Táto udalosť patrí medzi prvé významné prípady, keď AI generovaný materiál ovplyvnil federálne súdne dokumenty, a slúži ako varovný príklad pre právnych profesionálov po celých Spojených štátoch. Ako sa AI začína viac integrovať do rôznych odvetví, právnici čelia naliehavým výzvam na zachovanie etiky, správnosti a riadenie rizík spojených s automatizáciou v citlivých právnych záležitostiach. Prípad zdôrazňuje základnú úlohu ľudskeho dohľadu pri výskume podporovanom AI. Hoci AI môže zvýšiť efektivitu, nemôže nahradiť dôvtip, odbornosť a overovanie, ktoré právnici poskytujú. Chyba Butler Snow poukazuje na to, že aj zavedené firmy sú zraniteľné voči technologickým nejasnostiam bez správneho dohľadu. Právni experti upozorňujú, že tento incident by mal viesť k celosvetovému prehodnoteniu úlohy AI v právnej praxi. Ako súdy rozvíjajú prístupy k problémom spojeným s AI, očakáva sa jasnejšie smernice a profesionálne štandardy. Medzitým právnici dostávajú radu, aby dôsledne overovali všetky údaje generované AI pred ich použitím v súdnom konaní. Okrem priameho zúčastnených strán tento prípad zdôrazňuje širšiu spoločenskú a súdnu diskusiu o dôvere, zodpovednosti a meniacom sa vzťahu medzi technológiou a právom. Výsledok prešetrovania sudkyne Manasco a prípadné sankcie voči Butler Snow by mohli stanoviť precedens v regulácii vplyvu AI na právny výskum a súdne spory. Ako právna obec sleduje vývoj, tento prípad silno potvrdzuje, že presnosť a integrita ostávajú základnými piliermi právnej práce. Súčasne poukazuje na výzvy, ktorým čelia súdy i právnici pri integrácii nových technológií do rámcov na zabezpečenie spravodlivosti a ochrany práv. Zhrnutím, neúmyselné použitie falošných AI generovaných citácií v citlivom prípade obhajoby bezpečnosti väzňov zdôraznilo dôležitosť otázok AI v práve. Súdne opatrenia majú za cieľ riešiť toto nesprávne konanie a posilniť štandardy zabezpečujúce dôveryhodnosť právneho systému. Tento prípad sa stáva kľúčovým momentom v neustálej diskusii o úlohe AI v právnej oblasti a zodpovednosti právnikov pri používaní takýchto nástrojov.