یک قاضی ارشد در بریتانیا، ویکتوریا شارپ، هشدار قوی به حرفه‌ای‌های حقوقی درباره خطرات استفاده از ابزارهای هوش مصنوعی مانند ChatGPT برای استناد به پرونده‌های حقوقی ساختگی صادر کرد. این هشدار پس از حوادثی در دادگاه عالی لندن مطرح شد که در آن وکلا استدلال‌های حقوقی تولید‌شده توسط هوش مصنوعی را همراه با قضایای خیالی ارائه کردند. قاضی شارپ تأکید کرد که این اقدام به شدت خطر تضعیف یکپارچگی سیستم قضایی و کاهش اعتماد عمومی به روندهای قانونی را به همراه دارد. او وکلا را به وظایف اخلاقی‌شان در به‌کارگیری ابزارهای دیجیتال نوین یادآوری کرد و گفت در حالی که هوش مصنوعی می‌تواند در تحقیق و نگارش کمک کند، باید کاملاً دقت کرد تا صحت و اصالت مواد ارائه شده در دادگاه تایید شود. ساختن یا تکیه بر منابع حقوقی نادرست نه تنها خطای علمی است، بلکه ممکن است به پیامدهای حقوقی جدی منجر شود. این هشدار پس از بررسی دو پرونده اخیر در دادگاه عالی بود که در آنها ارجاعات تولید‌شده توسط هوش مصنوعی به پرونده‌های غیرقابل تأیید مورد بررسی قرار گرفت و نگرانی قضاوتی درباره وابستگی روزافزون به خروجی‌های AI بدون نظارت انسانی کافی برانگیخت. قاضی شارپ انتقاد کرد از راهنمایی‌های فعلی درباره استفاده از هوش مصنوعی در حقوق و خواستار تدوین چارچوب‌های قوی‌تر و ابتکارات آموزشی برای تقویت مسئولیت‌های اخلاقی و حرفه‌ای وکلا در این حوزه در حال تحول شد. این موضوع در شرایطی که استفاده از هوش مصنوعی مولد در حرفه‌ها به سرعت در حال رشد است، اهمیت بیشتری پیدا می‌کند، به ویژه در حوزه حقوق که صحت اطلاعات اهمیت فوق‌العاده دارد. ارائه شواهد دروغین عمداً می‌تواند به عنوان فساد در مسیر عدالت محسوب شود و مجازات‌هایی مانند اتهام تبعیت از قانون، حتی مجازات‌های کیفری در پی داشته باشد. این درخواست برای مقررات سختگیرانه‌تر و نظارت اخلاقی گسترده‌تر نشان‌دهنده نگرانی‌های جهانی درباره ادغام هوش مصنوعی در حرفه‌های حساس است که باید بین بهره‌مندی از مزایای آن در افزایش بهره‌وری و نوآوری و حفظ عدالت و انصاف تعادل برقرار کرد. در زمینه حقوق بریتانیا، وکلای دادگستری باید سلامت و یکپارچگی فرآیندهای حقوقی را رعایت کرده و در معاملات قضایی صادق باشند.

استفاده از ابزارهای هوش مصنوعی تعهدات آن‌ها را رفع نمی‌کند، بلکه نیاز به هوشیاری و تأیید بیشتر دارد. آموزش‌دهندگان حقوق نیز تشویق شده‌اند تا سواد و اخلاق در حوزه هوش مصنوعی را در برنامه‌های آموزشی خود گنجانده و آماده مواجهه با چالش‌های فناوری باشند. دادگستری به طور جدی برخورد با سوءاستفاده از هوش مصنوعی را زیر نظر دارد و آماده است مجازات‌های سختی برای ارائه مواد نادرست یا گمراه‌کننده اعمال کند، با هدف حفاظت از اداره عدالت و اعتماد عمومی. با گسترش استفاده از AI در حقوق، حرفه باید این ابزارها را به شکل مسئولانه‌ای پذیرفته و به کار گیرد. هشدارهای قاضی شارپ هم هشداری است و هم فراخوانی برای اقدام جهت اطمینان از اینکه فناوری به نفع قانون و نه علیه آن است. در جمع‌بندی، به‌کارگیری هوش مصنوعی در تحقیقات و استدلال‌های حقوقی نیازمند بالاترین استانداردهای اخلاقی است. تخطی از این موارد ممکن است به تنبیهات حرفه‌ای و مسئولیت‌های کیفری منجر شود. از تمامی ذینفعان در بخش حقوق خواسته شده تا در تدوین راهنمایی‌های شفاف‌تر، بهبود آموزش‌ها و پرورش آگاهی‌های اخلاقی در مورد نقش AI در عمل حقوقی همکاری کنند. این تحول همچنین چالش گسترده‌تری را به جامعه نشان می‌دهد که به مدیریت تأثیر هوش مصنوعی بر نهادهای حساس اختصاص دارد و نیاز به تعادلی میان نوآوری و حفظ اعتماد و پاسخگویی در سیستم‌های قضایی است.