Višja sodnica v Združenem kraljestvu, Victoria Sharp, je izdala močno opozorilo pravnim strokovnjakom glede nevarnosti uporabe orodij umetne inteligence, kot je ChatGPT, za navajanje izmišljenih pravnih primerov. To opozorilo sledi dogodkom na londonskem visokem sodišču, kjer so odvetniki predložili pravne argumente, ustvarjene z umetno inteligenco, podprte z izmišljenimi pravnimi precedensi. Sodnica Sharp je poudarila, da takšna praksa resno ogroža integriteto pravosodnega sistema in zmanjšuje zaupanje javnosti v pravne postopke. Opomnila je odvetnike na njihove etične dolžnosti pri uporabi novih digitalnih orodij, pri čemer je opozorila, da čeprav AI lahko pomaga pri raziskavah in pripravi gradiv, je potrebna popolna previdnost pri preverjanju točnosti in pristnosti predstavljenih materialov na sodišču. Izmišljanje ali zanašanje na lažne pravne vire ni le akademska napaka, ampak lahko vodi do pomembnih pravnih posledic. Opozorilo je sledilo po dveh nedavnih primerih na visokem sodišču, kjer so bili preiskovani AI-generirani sklici na nepregledne primere, kar je vzbudilo zaskrbljenost sodnikov glede naraščajoče odvisnosti od rezultatov AI brez zadostnega človeškega nadzora. Sodnica Sharp je kritizirala trenutne smernice glede uporabe AI v pravni praksi kot nezadostne in pozvala regulatorje, strokovne organizacije ter voditelje industrije, da vzpostavijo strožje okvire in izobraževalne pobude za krepitev etičnih odgovornosti odvetnikov v tem razvoju. Ta problem pridobiva na nujnosti glede na hitro širjenje generativne umetne inteligence med poklici, še posebej v pravo, kjer je natančnost ključnega pomena. Poročanje z narobe ali zavajajočimi dokazi lahko predstavlja kaznivo dejanje z zaviranjem pravice do pravičnega sojenja, kar ima lahko posledice v obliki prekoračitve sodnega postopka ali kazenskih postopkov. Poziv k tesnejši regulaciji in etičnem nadzoru odraža svetovne skrbi glede integracije AI v občutljive poklice, kjer je treba uravnotežiti koristi AI pri učinkovitosti in inovacijah z tveganji za pravičnost in pravičnost. V pravnem okviru Združenega kraljestva morajo odvetniki vzdrževati integriteto pravnih postopkov in ravnati pošteno v sodnih zadevah.

Uporaba orodij AI jih ne oprošča teh obveznosti, ampak povečuje potrebo po previdnosti in preverjanju. Pravne izobraževalne ustanove so prav tako spodbujene k vključevanju znanja o umetni inteligenci in etičnih vprašanjih v treninge, da pripravijo pravnike na tehnične izzive. Sodni organi natančno spremljajo zlorabo AI in so pripravljeni uvesti stroge kazni za predložitev lažnih ali zavajajočih gradiv, z namenom zaščite tako pravosodnega sistema kot javnega zaupanja. Ker AI postaja vse bolj razširjen v pravni domeni, mora ta poklic odgovorno uporabljati ta orodja. Opozorila sodnice Sharp služijo tako kot previdnost kot tudi poziv k dejanjem, da tehnologija podpira, namesto da podreza pravno državo. Na kratko, uporaba AI pri pravnih raziskavah in argumentacijah zahteva najvišje standarde integritete. Neupoštevanje tega lahko vodi v disciplinske ukrepe in kazenske posledice. Vsi akterji v pravnem sektorju so pozvani k sodelovanju pri oblikovanju jasnejših smernic, izboljšavi izobraževanja in razvoju etičnega zavedanja o vlogi AI v pravni praksi. Ta razvoj prav tako osvetljuje širše družbene izzive pri upravljanju vpliva AI na ključne institucije in poudarja potrebo po uravnoteženju inovacij z ohranjanjem zaupanja in odgovornosti pravnih sistemov.