Një gjykatës federal në Birmingham, Alabama, po shqyrton nëse duhet të sanksionojë firmën ligjore të njohur Butler Snow pas zbulimit të pesë citimeve të rrema ligjore në dokumentet e fundit gjyqësore lidhur me një rast me përmasa të mëdha, i cili përfshin sigurimin e jetës së një te prekur, në Departamentin e Korreksionit William E. Donaldson, ku i dënuari u sulmua disa herë me prekje me thikë. Çështja ka marrë vëmendje kombëtare për shkak të lidhjes së saj me përdorimin e inteligjencës artificiale (AI) në kërkimet ligjore, duke theksuar rreziqet e informacionit të pa besueshëm që vjen nga AI-ja. Gjyqtarja e Distriktit të Shteteve të Bashkuara, Anna Manasco, që po mbikëqyr rastin, identifikoi citimet e rreme si “halucinacione” të prodhuara nga AI, referenca të fabricated nga mjetet e AI si ChatGPT. Këto citime të pasakta u shfaqën në dy dokumente nga Butler Snow, e cila po pesë kundër zyrtarëve të Burgut të akuzuar për neglizhencë në mbrojtjen e sigurisë së të dënuarve. Prania e këtij lloji gabimesh në dokumentet zyrtare të gjykatës ngre shqetësime serioze për integritetin e kërkimit ligjor të firmës dhe ndikimin më të gjerë të përdorimit të AI-së në kontekstet kritike ligjore. Çështja u zbulua pasi një rishikim i rastit tregoi se asnjë nga pesë rastet e përmendura nuk mbështeste argumentet ligjore. Hetimi i mëtejshëm konfirmoi se këto referenca ishin të prodhuara nga ChatGPT. Butler Snow pranoi që nuk kishte verifikuar pavarësisht citimet para se t’i përfshinte në dokumente. Matt Reeves, një partner i firmës Butler Snow që është përfshirë në këtë rast, pranoi përgjegjësinë duke shpjeguar se përdori ChatGPT për të përshpejtuar kërkimet por nuk kontrolloi të dhënat. “Unë mendoj plotësisht përgjegjësinë për gabimet. Ky ishte një dështim në proceset tona standarde të verifikimit, ” tha ai. Katër avokatë të tjerë, përfshirë drejtorin e ndarjes, Bill Lunsford—i cili është gjithashtu zëvendësprokuror i përgjithshëm—kanë nënshkruar për dokumentet, ndërsa Lunsford pranoi se kishte kontrolluar vetëm në mënyrë të shpejtë, duke nxjerrë në pah mungesat në mbikëqyrje. Butler Snow, një firmë e njohur që merraj shumë e pagesave nga Shteti i Alabama për çështje të burgjeve, tani përballet me një vëmendje të rritur për shkak të ndikimit të drejtpërdrejtë që kanë veprimet e tyre mbi mirëqenien e të dënuarve dhe administrimin e drejtësisë. Firma bëri një deklaratë duke shprehur turp të madh për gabimet, duke rikujtuar angazhimin për standarde të rrepta ligjore dhe duke premtuar masa për përmirësime në mënyrë që të shmangen gabime të tilla në të ardhmen. Gjyqtarja Manasco i dha Butler Snow dhjetë ditë kohë për përgjigje ndërsa po shqyrtonmasat disiplinore, që mund të përfshijnë gjoba ose sanksione të tjera me qëllim ruajtjen e integritetit të gjykatës dhe shuarjen e shkeljeve të së ardhmes.

Vëmendja e saj ndaj rastit reflekton një shqetësim të rritur të gjykatës për përdorimin e AI-së në fushën ligjore, sidomos duke marrë parasysh tendencën e AI-së për të krijuar përmbajtje të pasaktë ose të sajuar nëse nuk ndalohet. Ky incident është ndër shembujt e parë të njohur publikisht që ilustrojnë ndikimin e materialeve të gjeneruara nga AI në dokumentet federale të gjykatës dhe shërben si një mësim i rëndësishëm për profesionistët ligjorë në vend. Ndërsa AI po integronohet gjithnjë e më shumë në industri, avokatët përballen me sfida urgjente për të mbajtur etikën, për të siguruar saktësinë dhe për të menaxhuar rreziqet e automazionit në çështje të ndjeshme ligjore. Rasti nënvizon rolin thelbësor të mbikëqyrjes humane në kërkimet e mbështetura në AI. Ndërsa AI mund të rritë efikasitetin, ajo nuk mund të zëvendësojë gjykimin e kujdesshëm, ekspertizën dhe verifikimin që ofrojnë avokatët. Gabimi i Butler Snow tregon se edhe firmat e njohura janë të prekshme ndaj rreziqeve të teknologjisë pa zbatim të duhur. Ekspertët ligjorë nxisin që ky episode të shërbejë si shkëndijë për rivlerësim të gjerë të rolit të AI-së në praktikën ligjore. Si gjykatat zhvillojnë qasje për sfidat e AI-së, pritet të vendosen udhëzime të qarta dhe standarde profesionale. Ndërkohë, avokatët u këshillohen të verifikojnë rreptësisht të gjitha të dhënat e gjeneruara nga AI-ja para se t’i bazojnë në to vendimet në gjykatë. Përtej palëve të drejtpërdrejta, ky rast thekson një dialog më të gjerë shoqëror dhe gjyqësor mbi besueshmërinë, përgjegjësinë dhe marrëdhënien në zhvillim mes teknologjisë dhe ligjit. Rezultati i shqyrtimit të gjykatës Manasco dhe ndonjë sanksion kundër Butler Snow mund të vendosë parakushte në rregullimin e ndikimit të AI-së në kërkimet dhe paditë ligjore. Ndërsa komuniteti ligjor pashekёron zhvillimet, ky episod fuqimisht forcon faktin se saktësia dhe integriteti mbeten parimi themelor i veprimtarisë ligjore. Ai gjithashtu ilustron sfidat me të cilat përballen gjykatat dhe avokatët në integrimin e teknologjive të reja në korniza të ndërtuara për të mbajtur drejtësinë dhe për të mbrojtur të drejtat. Në konkluzion, përdorimi pa dashje i titujve të rremë nga AI në një nëngjarje shumë sensitive për sigurinë e burgjeve është bërë shënjestër e shqetësimeve të rëndësishme mbi rolin e AI-së në ligj. Përgjigjja gjyqësore synon të adresojë këtë sjellje jo të duhur dhe të forcojë standardet që sigurojnë besueshmërinë ligjore. Ky rast është një moment kyç në dialogun në vazhdim rreth vendit të AI-së në ligj dhe përgjegjësisë së domosdoshme të profesionistëve ligjorë që përdorin këto mjete.