Félagsdómari í Birmingham, Alabama, metur hvort hann eigi að refsaa af vinsæla lögfræðistofunni Butler Snow eftir að hafa uppgötvað fimm false lagalegar tilvitnanir í nýlegum dómshöfðunum tengdum ötölum málsókn um öryggi fangans við William E. Donaldson Réttarhús, þar sem fanginn var stunginn í marga sinn. Málið hefur fengið landsþekkt áherslu vegna tengsla við notkun gervigreindar (AI) í lögfræðilegu rannsóknum, sem undirstrikar áhættur af óáreiðanlegum upplýsingum sem AI getur framleiðsl í. Bandaríski dómstólasdómari Anna Manasco, sem fer með málið, greindi þessar falsa tilvitnanir sem AI-framleiddar „heimskulegar sýningu“, búningarupprunasniðnar af tólum eins og ChatGPT. Þessar rangtúlkuðu tilvitnanir komu fram í tveimur skjalum frá Butler Snow, sem sækist eftir málsókn gegn fangavörsluyfirvöldum sem sakaðir eru um að hafa ekki tryggt öryggi fanga. Tilvist slíkra villna í opinberum dómshöfðum vekur alvarlegar áhyggjur um trúverðugleika lögfræðilegrar rannsóknarstefnu félagsins og víðtækari áhrif þess að treysta á AI í mikilvægu lagalegu samhengi. Málið kom upp eftir endurskoðun á máli sem sýndi að engar af þeim fimm tilvitnunum studdu lagalegar röksemdir. Frekari athuganir sýndu að þessar heimildir voru framleiðslur ChatGPT. Butler Snow viðurkenndi að hafa ekki sjálfvirkt sannreynt tilvitnanirnar áður en þær voru felldar inn í skjöl. Matt Reeves, samstarfsmaður hjá Butler Snow sem var þátttakandi í málinu, tók ábyrgðina og útskýrði að hann hefði notað ChatGPT til að flýta rannsóknarvinnu, en gallað að sannreyna upplýsingar. „Ég tek fulla ábyrgð á mistökum. Þetta var mistök í venjulegum staðfestingarferlum okkar, “ sagði hann. Annar fjögurra lögfræðinga, þar á meðal deildarstjóri, Bill Lunsford — sem einnig er aðstoðarstjóri saksóknara — skrifuðu undir skjölin, þar sem Lunsford viðurkenndi að hafa yfirfarið þau aðeins af nokkurn veki, sem sýnir skort á eftirliti. Butler Snow, lögfræðistofa sem hefur áratugum þurft að greiða milljónir dollara í málsókn vegna fangelsismála fyrir Alabama ríki, stendur nú frammi fyrir aukinni aðsókn, þar sem bein áhrif þeirra verklegra starfanna snúa að velferð fanga og réttarkerfinu. Félagið gaf út yfirlýsingu um djúpa skömmina yfir villunum, staðfesti skuldbindingu sína til að halda við hæfileikum við lagalega vinnu og heitir að bæta öryggisráðstafanir til að koma í veg fyrir endurtekningu. Dómari Manasco gefur Butler Snow tíu daga til að svara, meðan hún íhugar refsiaðgerðir, sem gætu falið í sér sektir eða önnur refsivörð, til að viðhalda dómstólalegri heilindum og til að koma í veg fyrir framtíðar ósiðsemi.

Áhersla hennar á málið endurspeglar vaxandi áhyggjur dómstóla af notkun AI í lögum, sérstaklega þar sem AI hefur tilhneigung til að framleiða áreiðanlegar eða búin til upplýsingar ef henni er ekki stýrt. Þetta atvik er eitt af fyrstu stórfelldu dæmum um áhrif AI framleidds efnis á bandarískum dómshöfnum og þjónar sem varúðarmelding fyrir lögfræðinga um land allt. Eftir því sem AI verður sífellt samþættara í fjölda atvinnugreina, stendur lögfræðingum fram í að takast á við áleitnar áskoranir um siðfræðisjónarmið, nákvæmni og áhættustýringu varðandi sjálfvirkni í viðkvæmum lagalegum málum. Málið undirstrikar mikilvægi mannlegrar yfirzonsku í rannsóknarvinnu sem styðst við AI. Þótt AI geti aukið skilvirkni, getur hún ekki staðist þörfina fyrir nákvæma dómgreind, sérfræðiþekkingu og sannreynslu, sem lögfræðingar leggja aukastaf í. Mistökin hjá Butler Snow sýna að jafnvel þekktar lögfræðistofur eru viðkvæmar fyrir trjám tækni, ef þær eru ekki meðvitaðar um og viðhalda strangri gæslu. Lögfræðistéttir hvetja til víðtækrar endurskoðunar á hlutverk AI í lögfræði. Þegar dómstólar þróa leiðir til að takast á við áskoranir AI, er búist við skýrum leiðbeiningum og siðareglum. Á meðan er mælt með því að lögfræðingar sannreyni öll gögn sem AI framleiðir áður en þau eru notuð við lagalegar aðgerðir. Fyrir utan helstu aðila málsins er hér einnig víðtækari samfélags- og dómstólavirðing um traust, ábyrgð og þróunartengsl tækni og lagaaðferða. Lokaniðurstaða rannsóknar dómara Manasco og möguleg refsiaðgerð gegn Butler Snow gæti sett presedenz um reglugerð á áhrif AI á lögfræðirannsóknir og málshöfðun. Með því að fylgjast með þróun málsins er óhætt að segja að þetta atvik staðfesti traust, réttmæti og nákvæmni sem grundvallarþætti í lögum. Það sýnir einnig þær áskoranir sem dómstólar og lögfræðingar standa frammi fyrir þegar þeir samþætta nýja tækni í kerfi sem grundvallast á að uppræta rangt og vernda réttindi. Á heildina litið hefur óvart notkun Butler Snow á röngum AI-framleiddum tilvitnunum í viðkvæmu máli um öryggi fangans varpað ljósi á mikilvægi þess að tryggja lögmæti AI og efla staðla sem efla lögfræðiraðstöðu. Svar dómstólanna felur í sér að takast á við þessa misgjörð og styrkja viðmið sem tryggja lögmæti og traust í lagalegri starfsemi. Þetta mál er mikilvægur steinn í framhaldinu viðræðum um hlutverk AI í réttarkerfinu og ómissandi skyldu lagalegra sérfræðinga til að nota slíkar vélar á ábyrgðarfullan hátt.