Federalny sędzia w Birmingham w stanie Alabama rozważa, czy nałożyć sankcje na renomowaną kancelarię Butler Snow po odkryciu pięciu fałszywych cytowań prawnych w niedawnych dokumentach sądowych związanych z głośną sprawą dotyczącą bezpieczeństwa więźnia w Zakładzie Karnym William E. Donaldson, gdzie więzień został wielokrotnie dźgnięty nożem. Sprawa zyskała szeroki rozgłos z powodu jej związku z użyciem sztucznej inteligencji (SI) w badaniach prawnych, co podkreśla ryzyko niepewnych informacji generowanych przez SI. Sędzia federalna Anna Manasco, prowadząca postępowanie, zidentyfikowała fałszywe cytaty jako "halucynacje" generowane przez SI, czyli sfabrykowane odniesienia stworzone przez narzędzia takie jak ChatGPT. Nieścisłości te pojawiły się w dwóch dokumentach złożonych przez kancelarię Butler Snow, która prowadzi spór przeciwko urzędnikom więziennym oskarżonym o niepowiadomienie o zagrożeniach dla bezpieczeństwa więźniów. Obecność takich błędów w oficjalnych dokumentach sądowych budzi poważne obawy dotyczące rzetelności badania prawnego tej kancelarii oraz szerszych konsekwencji polegania na SI w istotnych kontekstach prawnych. Problem ujawniono po tym, jak analiza sprawy wykazała, że żadne z pięciu wskazanych orzeczeń nie popierało argumentacji prawnej. Dalsze dochodzenie potwierdziło, że odniesienia te zostały wygenerowane przez ChatGPT. Butler Snow przyznało, że nie zweryfikowało niezależnie tych cytatów przed dołączeniem ich do dokumentów. Matt Reeves, partner w Butler Snow zaangażowany w sprawę, wziął na siebie odpowiedzialność, wyjaśniając, że korzystał z ChatGPT, aby przyspieszyć badania, lecz nie sprawdził poprawności informacji. „Biorę pełną odpowiedzialność za te błędy. To była porażka w naszym standardowym procesie weryfikacji, ” powiedział. Czterech innych prawników, w tym szef działu Bill Lunsford — również zastępca prokuratora generalnego, zatwierdziło te dokumenty, przy czym Lunsford przyznał, że zrobił to jedynie pobieżnie, co podkreśla braki w nadzorze. Butler Snow, od dawna działająca kancelaria, którą od lat opłacała Alabama w ramach spraw sądowych dotyczących więzień, teraz stoi w obliczu zwiększonej kontroli ze względu na bezpośredni wpływ ich pracy na dobro więźniów i funkcjonowanie wymiaru sprawiedliwości. Kancelaria wydała oświadczenie, w którym wyraża głęboki zawstydzenie z powodu tych błędów, potwierdza zobowiązanie do stosowania rygorystycznych standardów prawnych i obiecuje wdrożyć lepsze zabezpieczenia, aby zapobiec podobnym sytuacjom w przyszłości. Sędzia Manasco dała Butler Snow dziesięć dni na odpowiedź, rozważając jednocześnie podjęcie działań dyscyplinarnych, które mogą obejmować nałożenie grzywny lub innych sankcji mających na celu zachowanie integralności sądownictwa oraz zapobieganie przyszłym naruszeniom.

Jej zainteresowanie tą sprawą odzwierciedla rosnącą obawę środowiska sądowego o wykorzystywanie SI w prawie, szczególnie ze względu na tendencję SI do generowania nieprecyzyjnych lub sfabrykowanych treści, jeśli nie jest nadzorowana. Incydent ten stanowi jeden z pierwszych głośnych przykładów wpływu treści generowanych przez SI na dokumenty federalnych sądów i służy jako ostrzeżenie dla prawników w całym kraju. W miarę jak SI coraz bardziej integruje się z różnymi branżami, profesjonaliści prawa muszą stawić czoła pilnym wyzwaniom związanym z zachowaniem etyki, zapewnieniem dokładności i zarządzaniem ryzykami automatyzacji w wrażliwych sprawach prawnych. Sprawa ta podkreśla kluczową rolę nadzoru człowieka w badaniach wspieranych przez SI. Choć SI może zwiększyć efektywność, nie zastąpi ostrożnego osądu, wiedzy i weryfikacji, które zapewniają prawnicy. Błąd Butler Snow ujawnia, że nawet ugruntowane kancelarie są podatne na pułapki technologii, jeśli nie stosują odpowiedniej staranności. Eksperci prawni nawołują, aby ten incydent skłonił do szerokiej ponownej oceny roli SI w praktykach prawnych. W miarę rozwoju metod radzenia sobie z wyzwaniami związanymi z SI, oczekuje się opracowania jasnych wytycznych i standardów zawodowych. W międzyczasie, prawnicy powinni rygorystycznie weryfikować wszelkie dane pochodzące od SI przed wykorzystaniem ich w sądzie. Poza bezpośrednimi stronami, sprawa ta uwydatnia szerszy dialog społeczny i sądowy na temat zaufania, odpowiedzialności oraz ewolucji relacji pomiędzy technologią a prawem. Wynik oceny sędzi Manasco i ewentualne sankcje wobec Butler Snow mogą ustanowić precedens w regulowaniu wpływu SI na badania i procesy prawne. Obserwując rozwój sytuacji, społeczność prawna zostaje przypomniana, że precyzja i uczciwość nadal są fundamentami pracy prawników. Ta sytuacja ilustruje również wyzwania, przed jakimi stoją sądy i prawnicy podczas integracji nowych technologii w ramy stworzone w celu utrzymania sprawiedliwości i ochrony praw. Podsumowując, przypadkowe użycie przez Butler Snow fałszywych cytowań wygenerowanych przez SI w wrażliwej sprawie dotyczącej bezpieczeństwa więźniów zwróciło uwagę na istotne kwestie związane z rolą SI w prawie. Odpowiedź sądowa ma na celu rozwiązanie tego naruszenia i wzmocnienie standardów gwarantujących wiarygodność prawidłowych rozstrzygnięć. Ten przypadek stanowi przełomowy moment w trwającej dyskusji o miejscu SI w systemie prawnym i ważnej odpowiedzialności prawników korzystających z takich narzędzi.