Federální soudce v Birminghamu v Alabamě přezkoumává možnost potrestání přední právní kanceláře Butler Snow poté, co zjistil pět falešných právnických citací v nedávných soudních podáních týkajících se vysoce sledovaného případu ohledně bezpečnosti vězňů v nápravné kolonii William E. Donaldson, kde byl vězeň několikrát bodnut. Tento problém získal národní pozornost kvůli spojitosti s použitím umělé inteligence (AI) v právním výzkumu, čímž upozornil na rizika nespolehlivých informací generovaných AI. Soudkyně Spojených států Anna Manasco, která má případ na starosti, označila falešné citace za AI-vygenerované „halucinace“, tedy vymýšlené odkazy vytvořené nástroji AI jako je ChatGPT. Tyto nepřesné citace se objevily ve dvou podáních firmy Butler Snow, která vede spor proti vězeňským úředníkům obviněným z nedostatečné ochrany bezpečnosti vězňů. Přítomnost takových chyb v oficiálních soudních dokumentech vyvolává vážné obavy ohledně integrity právního výzkumu této firmy a širších dopadů spoléhání se na AI v kritických právních kontextech. Problém byl odhalen poté, co revize případu ukázala, že žádný ze zmíněných pěti případů nepodporoval právní argumenty. Další šetření potvrdilo, že tyto odkazy byly vygenerovány ChatGPT. Butler Snow přiznala, že před jejich zahrnutím do podání je nesvěřila vlastním ověřením, ale pouze je převzala. Partner firmy Butler Snow, Matt Reeves, který se případu účastnil, přijal odpovědnost s tím, že používal ChatGPT k urychlení výzkumu, ale nezkontroloval si informace. „Převzím plnou zodpovědnost za chyby. Šlo o selhání našich standardních ověřovacích procesů, “ řekl. Čtyři další právníci, včetně vedoucího oddělení Billa Lunsforda – který je také zástupcem generálního advokáta –, podepsali podání, přičemž Lunsford přiznal, že prováděl pouze povrchní kontrolu, což poukazuje na nedostatky v dohledu. Butler Snow, dlouhodobá firma, která byla za více než miliony dolarů od státu Alabama najímána na obhajobu vězeňských sporů, nyní čelí zvýšené kontrole kvůli přímému dopadu jejich práce na blaho vězňů a spravedlnost. Firma vydala prohlášení, ve kterém vyjadřuje hluboké zmatení z těchto chyb, znovu potvrdila odhodlání dodržovat přísné právní standardy a slíbila zavést posílená opatření, aby se podobná situace neopakovala. Soudkyně Manasco dala Butler Snow lhůtu deset dní na reakci, zatímco zvažuje disciplinární opatření, která mohou zahrnovat pokuty či jiné sankce s cílem zachovat důstojnost soudu a odradit od podobného chování v budoucnu.

Její pozornost k tomuto případu odráží rostoucí znepokojení soudů ohledně používání AI v právní praxi, zvláště vzhledem k tomu, že AI má tendenci produkovat nepřesný či vymyšlený obsah, pokud není správně dohlíženo. Tato událost je jedním z prvních vysoce sledovaných případů vlivu AI na dokumenty federálních soudů a slouží jako varovný příklad pro právní profesionály po celé zemi. S rostoucí integrací AI do různých odvětví čelí právníci naléhavé výzvě zachovávat etiku, zajišťovat přesnost a řídit rizika automatizace v citlivých právních záležitostech. Případ zdůrazňuje klíčovou roli lidského dohledu při výzkumu s pomocí AI. Přestože AI může zvýšit efektivitu, nemůže nahradit pečlivé posouzení, odborné znalosti a ověřování, které právníci poskytují. Chyba firmy Butler Snow poukazuje na to, že i zavedené firmy jsou bez řádné péče zranitelné vůči technologickým problémům. Právní experti vyzývají k širokému přehodnocení role AI v právní praxi. Jak se soudy snaží najít řešení problémů spojených s AI, očekávají se jasnější pokyny a profesní standardy. Mezitím právníci radí, aby důkladně ověřovali všechna data generovaná AI, než se na ně v soudním řízení spolehají. Mimo okamžité strany případu se tento incident dotýká i širšího společenského a soudního dialogu o důvěře, odpovědnosti a proměnách vztahu mezi technologií a právem. Výsledek přezkumu soudkyně Manasco a případná sankce vůči Butler Snow by mohla nastavit precedenty v regulaci vlivu AI na právní výzkum a soudní řízení. Právní komunita sleduje vývoj a tento případ důrazně potvrzuje, že přesnost a integrita zůstávají základem právní práce. Současně ukazuje výzvy, kterým čelí soudy a právníci při začleňování nových technologií do rámců, jež mají podporovat spravedlnost a chránit práva. Shrnuto, neúmyslné použití falešných AI-vygenerovaných citací v citlivém případu týkajícím se bezpečnosti vězňů přivedlo do popředí důležité otázky o roli AI v právu. Soudní reakce se snaží tuto nedbalost napravit a posílit standardy, které zajistí důvěryhodnost právního systému. Tento případ představuje klíčový moment v probíhajícím dialogu o místě AI v právu a o odpovědnosti právních profesionálů při používání těchto nástrojů.