Savezni sudija u Birmingemu, Alabama, razmatra da li će sankcionisati poznatu pravnu firmu Butler Snow nakon što je otkriveno pet lažnih pravnih citata u nedavnim sudskim podnescima vezanim za visokoprofilni slučaj u vezi sa sigurnošću zatvorenika u Zavodu za izvršenje kazni William E. Donaldson, gde je zatvorenik više puta napadnut nožem. Ovaj slučaj je stekao nacionalnu pažnju zbog svoje povezanosti sa upotrebom veštačke inteligencije (VI) u pravnim istraživanjima, ističući opasnosti od nepouzdanih informacija koje generiše VI. Sudska sutkinja SAD-Anna Manasco, koja nadgleda slučaj, identifikovala je lažne citate kao AI-generisane "hallucinations", fabrikovane reference koje je proizveo alat veštačke inteligencije poput ChatGPT. Ove netačne citate pojavile su se u dva podneska firme Butler Snow, koja vodi parnicu protiv zatvorskih službenika optuženih za neadekvatnu zaštitu sigurnosti zatvorenika. Prisustvo takvih grešaka u zvaničnim sudskim dokumentima izaziva ozbiljne zabrinutosti u pogledu integriteta pravnih istraživanja firme i šireg uticaja oslanjanja na veštačku inteligenciju u kritičnim pravnim kontekstima. Problem je izašao na videlo nakon što je pregled slučaja otkrio da nijedan od pet citiranih suda nije podržavao pravne tvrdnje. Dalje istraživanje je potvrdilo da su ove reference generisane od strane ChatGPT. Butler Snow je priznao da nije nezavisno verifikovao citate pre nego što su uključeni u podneske. Matt Reeves, partner u firmi Butler Snow, uključen u slučaj, preuzeo je odgovornost, objašnjavajući da je koristio ChatGPT kako bi ubrzao istraživanje, ali nije proveravao tačnost informacija. „Preuzimam punu odgovornost za greške. Ovo je bio propust u našem standardnom procesu verifikacije, “ rekao je. Četiri druga advokata, uključujući šefa odsjeka Billa Lunsforda – koji je takođe zamenik državnog tužioca, potpisali su se na podneske, pri čemu je Lunsford priznao da je obavio samo prolazni pregled, čime je istaknuta manjkavost nadzora. Butler Snow, dugogodišnja firma koja je od države Alabame primila milione dolara za parnice u vezi sa zatvorskim slučajevima, sada je pod povećanim nadzorom zbog direktnog uticaja njihovog rada na dobrobit zatvorenika i administraciju pravde. Firma je izdala saopštenje u kome izražava duboko stida zbog grešaka, ponovo ističući posvećenost rigoroznim pravnim standardima i obećavajući unapređenje mera zaštite radi sprečavanja ponavljanja. Sutkinja Manasco je dala firmi Butler Snow deset dana da odgovori dok razmatra disciplinske mere, koje mogu uključivati novčane kazne ili druge sankcije s ciljem očuvanja sudske integriteta i odvraćanja od budućih propusta.

Njen angažman na ovom slučaju odražava rastuću zabrinutost sudske vlasti u pogledu upotrebe veštačke inteligencije u pravnom sistemu, posebno s obzirom na sklonost AI da proizvodi netačne ili lažne sadržaje ako nije pravilno nadgledana. Ovaj slučaj predstavlja jedan od prvih visokoprofilnih primera korišćenja AI-generisanog materijala koji utiče na dokumente federalnih sudova i služi kao opomena za pravne profesionalce širom zemlje. Kako se veštačka inteligencija sve više integriše u različite industrije, pravnici se suočavaju sa hitnim izazovima da održe etičke standarde, obezbede tačnost i upravljaju rizicima automatizacije u osetljivim pravnim pitanjima. Ovaj slučaj naglašava ključnu ulogu ljudskog nadzora u istraživanjima koja koriste veštačku inteligenciju. Dok AI može poboljšati efikasnost, ona ne može zameniti pažljivo prosuđivanje, stručnost i verifikaciju koju pružaju advokati. Greška firme Butler Snow otkriva da čak i etablirane advokatske firme mogu biti ranjive na zamke tehnologije bez odgovarajuće pažnje. Pravni stručnjaci pozivaju na široku reassessment uloge AI u pravnoj praksi. Kako sudovi razvijaju pristupe izazovima vezanim za AI, očekuju se jasniji smernice i profesionalni standardi. U međuvremenu, advokati se savetuju da svakako rigorozno proveravaju sve podatke generisane od strane AI pre nego što ih koriste u sudskim postupcima. Ovaj slučaj, pored neposrednih uključenih strana, ističe širu društvenu i sudsku raspravu o poverenju, odgovornosti i evoluciji odnosa između tehnologije i prava. Ishod pregleda sutkinje Manasco i eventualne sankcije protiv firme Butler Snow mogli bi postaviti presedan u regulisanju uticaja veštačke inteligencije u pravnim istraživanjima i parnicama. Kako pravna zajednica prati dešavanja, ovaj slučaj snažno podseća da su tačnost i integritet i dalje temeljni principi pravnog rada. Takođe, osvetljava izazove sa kojima se sudovi i advokati suočavaju pri integraciji novih tehnologija u okvire koji su osmislili da štite pravdu i prava. Ukratko, nenamerno korišćenje lažnih AI-generisanih citata od strane firme Butler Snow u osjetljivom tužbom za sigurnost zatvorenika istaknulo je ključne zabrinutosti u vezi sa ulogom veštačke inteligencije u pravnom sistemu. Sudski odgovor ima za cilj da adresira ovu nepravilnost i ojača standarde koji obezbeđuju pravnu pouzdanost. Ovaj slučaj predstavlja ključni trenutak u stalnom dijalogu o mestu AI u pravdi i odgovornosti pravnih profesionalaca pri upotrebi takvih alata.