Isang hukom mula sa pederal na hukuman sa Birmingham, Alabama, ang nagsusuri kung dapat bang wikasan ang isang kilalang law firm na Butler Snow matapos madiskubre ang limang peke na legal na citasyon sa mga kamakailang paghahain sa korte na may kaugnayan sa isang high-profile na kaso tungkol sa kaligtasan ng isang bilanggo sa William E. Donaldson Correctional Facility, kung saan marami ang tinusok ng patalim. Ang isyu ay naging usap-usapan sa buong bansa dahil sa kaugnayan nito sa paggamit ng artificial intelligence (AI) sa legal na pananaliksik, na nagtataas ng alalahanin tungkol sa mga delikadong panganib ng hindi mapagkakatiwalaang impormasyon na gawa ng AI. Natukoy ni U. S. District Judge Anna Manasco, na nangangasiwa sa kaso, na ang mga pekeng citasyon ay “hallucinations” na nilikha ng AI, mga pekeng reperensiya na ginawa ng mga kasangkapang AI gaya ng ChatGPT. Ang mga maling citasyong ito ay lumabas sa dalawang paghahain ng Butler Snow, na nakikipaglaban laban sa mga opisyal ng bilangguan na inakusahan ng kabiguang protektahan ang kaligtasan ng mga bilanggo. Ang pagkakaroon ng ganitong mga mali sa opisyal na dokumento ng korte ay nagdudulot ng matinding pag-aalala tungkol sa integridad ng pananaliksik ng legal na kumpanya at sa mas malawak pang epekto ng pag-asa sa AI sa mahahalagang legal na proseso. Lumabas ang isyu nang saliksikin ang kaso at matuklasan na walang sinumang alinlangan na sinusuportahan ng limang citasyon ang mga legal na argumento. Masusing imbestigasyon ang nagpatunay na ang mga referensyang ito ay ginawa lamang ng ChatGPT. Inamin ng Butler Snow na hindi nila sinuri nang hiwalay ang mga citasyon bago nila isinama sa kanilang mga dokumento. Tanggap ni Matt Reeves, isang partner ng Butler Snow na sangkot sa kaso, ang kanyang pananagutan, at ipinaliwanag na ginamit niya ang ChatGPT upang mapabilis ang pananaliksik ngunit hindi niya nasuri nang maigi ang impormasyon. “Tanggap ko ang buong pananagutan sa mga mali. Ito ay isang kabiguan sa aming normal na proseso ng beripikasyon, ” ani Reeves. Apat pang ibang abogado, kabilang na si Bill Lunsford na pinuno ng dibisyon at deputy attorney general, ang pumirma rin sa mga dokumento, na may pahayag na limitado lamang ang kanilang pagsusuri, dahilan upang maipakita ang kakulangan sa pangangasiwa. Matagal nang kilala ang Butler Snow bilang isang law firm na umano’y binabayaran nang milyon-milyon ng Estado ng Alabama para sa mga kaso ukol sa bilangguan. Ngayon ay mas pinag-iigting ang kanilang pagsisiyasat dahil sa direktang epekto ng kanilang trabaho sa kapakanan ng mga bilanggo at sa administrasyon ng katarungan.

Naglabas ang firma ng pahayag na naglalaman ng malalim na paghingi ng tawad sa mga pagkakamali, muling pinapagtibay ang kanilang pangakong magpapatupad ng mas mahigpit na pamantayan sa legal at nangangakong magpapatupad ng mga mas mahigpit na hakbang upang maiwasan ang mga ganitong insidente sa hinaharap. Binigyan ni Hukom Manasco ang Butler Snow ng sampung araw upang tumugon habang pinaplantsa niya ang posibleng disiplinaryong aksyon, gaya ng multa o iba pang parusa na naglalayong mapanatili ang katapatan ng hukuman at mapag-iwasan ang mga susunod pang paglabag. Ang kanyang atensyon sa kasong ito ay nagpapatunay sa palalong pag-aalala ng korte tungkol sa paggamit ng AI sa larangan ng batas, lalo na’t nakikita ang posibilidad na magdulot ito ng maling impormasyon o peke kung hindi maingat na binabantayan. Ang insidenteng ito ay isa sa mga unang mataas na profile na halimbawa kung saan ang AI-generated na materyal ay nakaapekto sa mga dokumento ng pederal na hukuman, na nagsisilbing babala sa mga propesyonal sa batas sa buong bansa. Habang ang AI ay lalong nagiging kasangkapan sa iba't ibang industriya, nahaharap ang mga legal na practitioner sa biglaang hamon na panatilihing tapat at tama ang kanilang impormasyon, at pamahalaan ang mga panganib ng awtomasyon sa mga mahahalagang usapin ng batas. Pinapakita ng kasong ito ang mahalagang papel ng human oversight sa pananaliksik na ginagamitan ng AI. Bagamat nakatutulong ang AI sa pagpapabilis ng trabaho, hindi nito mapapalitan ang masusing paghatol, ekspertis, at beripikasyon na ibinibigay ng mga abokado. Ang pagkakamali ng Butler Snow ay nagbubunyag na kahit ang mga napatunayang kumpanya ay madaling mapahamak sa mga panganib ng teknolohiya kapag walang sapat na pagsusuri. Hinihikayat ng mga eksperto sa batas na gamitin ang pangyayaring ito upang magsagawa ng mas malawak na pagsusuri sa papel ng AI sa legal na serbisyo. Inaasahan ang mas malinaw na gabay at pamantayan para sa mga propesyonal habang nilalampasan nila ang mga hamon na idinudulot ng AI. Samantala, pinapayuhan ang mga abogado na masusing beripikahin ang lahat ng datos na gawa ng AI bago ito pagkatiwalaan sa korte. Higit pa sa mga direktang kasangkot, binibigyang-diin ng kasong ito ang mas malawak na usapin ng tiwala, pananagutan, at ang pagbabago ng ugnayan ng teknolohiya at batas. Ang resulta ng pagsusuri ni Hukom Manasco at anumang parusa laban sa Butler Snow ay maaaring magtakda ng pamantayan sa regulasyon ng impluwensya ng AI sa pananaliksik at paglilitis sa batas. Habang patuloy na binabantayan ng legal na komunidad ang mga pagbabago, muling pinapatunayan nitong ang katumpakan at integridad ay pangunahing pundasyon sa legal na gawain. Ipinapakita rin nito ang mga hamon na kinahaharap ng korte at mga abogadong nagsisikap na isama ang mga bagong teknolohiya sa mga sistemang nakatuntong sa hustisya at proteksyon ng mga karapatan. Sa kabuuan, ang hindi sinasadyang paggamit ng Butler Snow ng peke na AI-generated na citasyon sa isang sensitibong kaso tungkol sa kaligtasan sa bilangguan ay nagbigay-diin sa mahahalagang alalahanin tungkol sa papel ng AI sa batas. Ang pagtugon ng hukuman ay naglalayong pigilan ang ganitong uri ng maling gawain at paigtingin ang mga pamantayang nagsisiguro sa katapatan sa batas. Ang kasong ito ay isang mahalagang yugto sa patuloy na talakayan tungkol sa papel ng AI sa batas at sa pangunahing tungkulin ng mga legal na propesyonal sa paggamit ng ganitong mga kasangkapan.