Stariji britanski sudac, Victoria Sharp, izdala je snažno upozorenje pravnim stručnjacima o opasnostima korištenja alata umjetne inteligencije poput ChatGPT za citiranje izmišljenih pravnih slučajeva. Ovo su upozorenje izazvali slučajevi na Visokom sudu Londona u kojima su odvjetnici podnosili pravne argumente generirane putem AI-a uz potporu lažne sudske prakse. Sudac Sharp istaknula je da takva praksa ozbiljno prijeti narušavanju integriteta pravosudnog sustava i narušavanju povjerenja javnosti u pravne procese. Podsjetila je odvjetnike na njihove etičke dužnosti pri korištenju novonastalih digitalnih alata, napominjući da iako AI može pomoći u istraživanju i sastavljanju dokumenata, potrebna je apsolutna pažnja pri provjeri točnosti i autentičnosti predstavljanih materijala u sudu. Izmišljanje ili oslanjanje na lažne pravne izvore nije samo akademska pogreška, već može imati značajne pravne posljedice. Upozorenje je uslijedilo nakon dva nedavna slučaja na Visokom sudu u kojima su reference na neprovjerljive slučajeve generirane putem AI-a izazvale zabrinutost sudaca zbog sve veće oslanjanja na AI bez dovoljnog ljudskog nadzora. Sudac Sharp kritizirala je postojeće smjernice o korištenju AI-a u pravosuđu kao nedostatne i pozvala regulatorne tijela, stručne udruge i industrijske lidere da uspostave čvršće okvire i edukativne inicijative kojima će ojačati etičke odgovornosti odvjetnika u ovom razvoju tehnologije. Ovo pitanje postaje hitnije sapravo zbog brzog usvajanja generativne umjetne inteligencije u različitim profesijama, osobito u pravnom sustavu gdje je točnost ključna. Predaja nagoviješteno lažnih dokaza može predstavljati izjavu namjernog okretanja pravde, s kaznama uključujući prijevaru pred sudom i kaznene prijave. Poziv na strožu regulaciju i etički nadzor odražava globalne brige oko integracije AI u osjetljive profesije, pokušavajući uravnotežiti koristi od AI za učinkovitost i inovacije s rizicima za pravdu i pravičnost. U pravnom okviru UK-a, odvjetnici moraju održavati integritet pravnih postupaka i djelovati iskreno u sudskim radnjama.

Korištenje alata umjetne inteligencije ne oslobađa ih od ovih obaveza, nego pojačava potrebu za oprezom i provjerama. Također se potiču pravni edukatori da uključe digitalnu pismenost i etiku u obuku, kako bi pripremili odvjetnike za tehnološke izazove. Sudski organi pomno prate zloupotrebe AI-a i spremni su izricati stroge kazne za podnošenje lažnih ili zavaravajućih materijala, s ciljem zaštite pravde i povjerenja javnosti. Kako AI postaje sve više prisutna u pravnom svijetu, profesionalci moraju odgovorno koristiti te alate. Upozorenja sutkinje Sharp služe kao opomena i poziv na djelovanje, osiguravajući da tehnologija podržava, a ne podrije vladavinu prava. Ukratko, korištenje AI u pravnom istraživanju i iznošenju argumenata zahtijeva najviši stupanj integriteta. Neispunjenje tih standarda može dovesti do profesionalnih sankcija i kaznene odgovornosti. Svi u pravnom sektoru su ohrabreni na suradnju u izradi jasnijih smjernica, poboljšanju edukacije i razvoju etičke svijesti o ulozi AI-a u pravnoj praksi. Ovaj razvoj ujedno ističe širu društvenu izazovnost u upravljanju utjecajem AI na ključne institucije, naglašavajući potrebu za ravnotežom između inovacija i održavanja povjerenja i odgovornosti u pravosudnim sustavima.