Vrhovna sutkinja Velike Britanije, Victoria Sharp, izdala je snažno upozorenje pravnim profesionalcima u vezi s opasnostima korištenja AI alata poput ChatGPT-a za citiranje izmišljenih pravnih slučajeva. Ovaj oprez uslijedio je nakon incidenata na Velikom sudu u Londonu gdje su pravnici dostavljali pravne argumente generirane putem AI, poduprte fiktivnim sudskim predmetima. Sutkinja Sharp je istaknula da ova praksa ozbiljno prijeti narušavanju integriteta pravosudnog sistema i narušavanju povjerenja javnosti u pravne postupke. Podsjetila je pravnike na njihove etičke dužnosti prilikom korištenja izazovnih digitalnih alata, napominjući da iako AI može pomoći u istraživanju i sastavljanju dokumenata, potrebna je apsolutna pažnja kako bi se provjerila točnost i autentičnost prezentiranih materijala na sudu. Lažno predstavljanje ili oslanjanje na lažne pravne izvore nije samo akademska pogreška, već može imati značajne pravne posljedice. Upozorenje je uslijedilo nakon dvaju nedavnih slučajeva na Velikom sudu u kojima su referencije na nevjerifikovane slučajeve generirane putem AI-a bile podvrgnute provjeri, izazivajući zabrinutost sudaca zbog sve veće oslanjanja na AI izlaze bez adekvatnog ljudskog nadzora. Sutkinja Sharp je kritizirala sadašnje smjernice o korištenju AI u pravnom sustavu kao nedostatne i pozvala regulatorne tijela, profesionalna udruženja i lidere industrije da uspostave snažnije okvire i obrazovne inicijative za jačanje etičkih obaveza odvjetnika u ovom brzorastućem području. Ovaj problem dobiva na važnosti uslijed brzog usvajanja generativne AI tehnologije u različitim profesijama, posebice u pravu gdje je točnost ključna. Nesvjesno dostavljanje lažnih dokaza može se smatrati za pokušaj prikrivanja pravde, s kaznama koje uključuju prijevaru suda i krivične prijave. Potreba za jačom regulacijom i etičkim nadzorom odražava globalnu zabrinutost oko integracije AI u osjetljive profesije, uz balansiranje koristi AI za učinkovitost i inovacije te rizika za pravdu i pravičnost. U pravnom okviru Velike Britanije, odvjetnici moraju očuvati integritet pravnih procesa i djelovati iskreno u sudskim odnosima.

Korištenje AI alata ne oslobađa ih od tih obaveza, već istovremeno povećava potrebu za pažnjom i provjerom. Pravni edukatori također se potiču da uključe pismenost i etiku u korištenju AI u obuku kako bi pripremili pravne stručnjake za tehnološke izazove. Sudstvo pomno prati zloupotrebu AI i spremno je nametnuti stroge sankcije za podnošenje lažnih ili zavaravajućih materijala, s ciljem zaštite pravde i povjerenja javnosti. Kako AI postaje sve prisutnija u pravnom sustavu, profesija mora odgovorno koristiti ove alate. Upozorenja sutkinje Sharp služe i kao oprez i kao poziv na akciju, kako bi se osiguralo da tehnologija podržava, a ne narušava vladavinu prava. Ukratko, korištenje AI u pravnim istraživanjima i argumentaciji zahtijeva najviši standard integriteta. Neuspjeh u tome može dovesti do disciplinskih mjera i krivične odgovornosti. Sve uključenike u pravni sektor poziva se na suradnju u stvaranju jasnijih smjernica, poboljšanju obrazovanja i razvoju etičke svijesti o ulozi AI u pravnoj praksi. Ovaj razvoj također naglašava širi društveni izazov upravljanja utjecajem AI na važne institucije, ističući potrebu za ravnotežom između inovacija i očuvanja povjerenja i odgovornosti u pravnim sustavima.