Federalinis teisėjas Birmingham'e, Alabamoje, svarsto, ar būtina sankcionuoti žinomą teisės firmą Butler Snow, po to, kai buvo atrasta penkios melagingos teisėtinės nuorodos į teisinius dokumentus, susijusius su aukšto lygio byla, kurioje nagrinėjama kalinio sauga William E. Donaldson pataisos įstaigoje, kur kalinys buvo keliomis durtomis sužeistas. Ši problema sulaukė nacionalinio dėmesio dėl jos ryšio su dirbtinio intelekto (DI) naudojimu teisės tyrimuose, išryškindama rizikas, susijusias su nepatikima DI generuota informacija. JAV apygardos teisėja Anna Manasco, kuri prižiūri bylą, nustatė, kad melagingos nuorodos yra DI sukelti „ haliucinacijų“ pavyzdžiai – sukurti netikri šaltiniai, kuriuos generuoja tokios DI priemonės kaip ChatGPT. Šios netikros nuorodos pasirodė dviejose Butler Snow teiktuose dokumentuose, kurie yra nagrinėjami prieš kalinių apsaugą kaltinančius įstaigos pareigūnus. Tokios klaidos oficialiuose teismo dokumentuose kelia rimtų susirūpinimą dėl firmos teisės tyrimo patikimumo ir platesnių aspektų, susijusių su naudojimusi DI kritinėse teisinėse situacijose. Problema iškilo po to, kai per bylų peržiūrą paaiškėjo, kad nė viena iš penkių nuorodų nepalaikė pateiktų teisinių argumentų. Tolimesnės tyrimo išvados patvirtino, kad šios nuorodos buvo sugeneruotos ChatGPT. Butler Snow pripažino, kad prieš įtraukiant jas į dokumentus, neklausė pats jų patikimumo. Partneris Matt Reeves, dalyvavęs byloje, prisiėmė atsakomybę ir paaiškino, kad naudojosi ChatGPT, norėdamas pagreitinti tyrimą, bet nesužiūrėjo, ar informacija patikima. „Aš prisiimu visišką atsakomybę už klaidas. Tai buvo mūsų standartinių patikros procesų nesėkmė, “ sakė jis. Keturi kiti advokatai, tarp jų ir skyriaus vedėjas William Lunsford, kuris yra ir pavaduotojas generalinis prokuroras, pasirašė dokumentus, tačiau Lunsfordas pripažino, kad juos apžvelgė tik paviršutiniškai, pabrėždamas prastą priežiūrą. Butler Snow, ilgametė firma, kurią valstybė Alabamoje jau daugelį metų sumokėjo milijonus už teisines paslaugas, dabar susiduria su griežtesne priežiūra dėl tiesioginio jų darbo poveikio kalinių gerovei ir teisingumo vykdymui. Firma išplatino pareiškimą, kuriame išreiškė gėdą dėl padarytų klaidų, patvirtino įsipareigojimą laikytis griežtų teisės standartų ir pažadėjo gerinti apsaugos priemones, kad tokių klaidų nekiltų ateityje. Teisėja Manasco davė Butler Snow dešimt dienų atsakyti, kol svarstys drausmės priemones, galinčias būti baudomis ar kitomis sankcijomis, siekiant išsaugoti teismo integralumą ir apsaugoti teisingumo sistemą nuo būsimų pažeidimų.

Jos dėmesys šiai padėtčiai rodo vis dažnėjančius teisėjų susirūpinimus dėl DI naudojimo teisėje, ypač dėl to, kad AI turi tendenciją pateikti netikslią ar sukurptą turinį, jei jos nebūna prižiūrimos. Šis incidentas yra vienas pirmųjų aukšto rango pavyzdžių, kai DI sugeneruotos medžiagos įtakojo federalinius teismo dokumentus, ir tarnauja kaip įspėjimo pavyzdys teisės specialistams visoje šalyje. Kadangi DI vis dažniau įtraukiama į įvairias industrijas, teisininkai susiduria su būtinomis iššūkiais laikytis etikos, užtikrinti tikslumą ir valdyti automatizacijos pavojus jautriuose teisiniuose procesuose. Šis atvejis pabrėžia žmonių priežiūros svarbą DI pagalba atliekamame tyrime. Nors DI gali padėti padidinti darbo efektyvumą, ji negali pakeisti atsakingo įžvalgumo, patirties ir patikrų, kurias atlieka advokatai. Butler Snow klaida parodo, kad net patikimos firmos gali būti pažeidžiamos technologijų nesėkmių, jei jų nesugroja tinkama priežiūra. Teisiniai ekspertai ragina šį įvykį paskatinti plačią reevaluaciją DI vaidmens teisės praktikoje srityje. Laikui bėgant, tikėtina, bus kuriami aiškesni gairės ir profesiniai standartai. Tuo tarpu advokatai raginami kruopščiai patikrinti bet kokius DI sugeneruotus duomenis, prieš juos naudojant teisme. Be tiesioginių šalių, šis atvejis atskleidžia platesnę visuomenės ir teisėjų diskusiją apie pasitikėjimą, atsakomybę ir nuolat besikeičiančią santykių su technologijomis būdą. Teismo teisėjos Manasco sprendimo rezultatas ir galimos sankcijos Butler Snow galėtų tapti precedentais, reguliuojančiais DI įtaką teisės tyrimuose ir bylose. Stebint teisės bendruomenei, šis įvykis galingai patvirtina, kad tikslumas ir sąžiningumas išlieka esminiai teisinėje veikloje. Jis taip pat parodo iššūkius, su kuriais susiduria teismai ir advokatai, įtraukiant naujas technologijas į sistemas, skirtas teisingumui užtikrinti ir teisėms apsaugoti. Apibendrinant, Butler Snow netyčia panaudojo neteisingas DI sugeneruotas nuorodas jautrioje kalinių saugumo byloje, kas iškėlė svarbių klausimų apie DI vaidmenį teisėje. Teisės institucijų reakcija siekia spręsti šį netinkamą elgesį ir stiprinti standartus, užtikrinančius teisėtumą ir patikimumą. Šis atvejis yra esminis žingsnis nuolatiniame dialoge apie DI vaidmenį teisės srityje ir teisės profesionalų atsakomybę, taikančią tokias priemones.