Hakim senior Inggris, Victoria Sharp, telah mengeluarkan peringatan keras kepada para profesional hukum tentang bahaya menggunakan alat AI seperti ChatGPT untuk menyebutkan kasus hukum yang dipalsukan. Peringatan ini muncul setelah kejadian di Pengadilan Tinggi London di mana pengacara mengajukan argumen hukum yang dihasilkan AI dengan didukung oleh yurisprudensi fiktif. Hakim Sharp menekankan bahwa praktik ini berisiko serius merusak integritas sistem peradilan dan mengikis kepercayaan publik terhadap proses hukum. Dia mengingatkan pengacara tentang kewajiban etis mereka saat menggunakan alat digital yang sedang berkembang, mencatat bahwa meskipun AI dapat membantu penelitian dan penyusunan dokumen, diperlukan kewaspadaan mutlak untuk memverifikasi keakuratan dan keaslian materi yang disajikan di pengadilan. Memalsukan atau bergantung pada otoritas hukum palsu bukan hanya kesalahan akademis, tetapi bisa menyebabkan konsekuensi hukum yang signifikan. Peringatan ini muncul setelah dua kasus terbaru di Pengadilan Tinggi di mana referensi yang dihasilkan AI ke kasus yang tidak dapat diverifikasi diperiksa, memicu kekhawatiran Yudisial atas semakin bergantungnya pada keluaran AI tanpa pengawasan manusia yang cukup. Hakim Sharp mengkritik pedoman saat ini tentang penggunaan AI dalam hukum sebagai tidak memadai dan mendesak regulator, badan profesional, serta pemimpin industri untuk membangun kerangka kerja yang lebih kuat dan inisiatif pendidikan untuk memperkuat tanggung jawab etis pengacara dalam bidang yang sedang berkembang ini. Isu ini menjadi semakin mendesak seiring adopsi cepat AI generatif di berbagai profesi, terutama di bidang hukum dimana keakuratan sangat penting. Menyerahkan bukti palsu dengan sengaja dapat dikategorikan sebagai menghalangi keadilan, yang dapat berujung pada hukuman termasuk penghinaan terhadap pengadilan dan dakwaan pidana. Seruan untuk regulasi yang lebih ketat dan pengawasan etis ini mencerminkan kekhawatiran global tentang pengintegrasian AI ke dalam profesi yang sensitif, dengan menyeimbangkan manfaat AI untuk efisiensi dan inovasi terhadap risiko terhadap keadilan dan fairness. Dalam konteks hukum di Inggris, pengacara harus menjaga integritas proses hukum dan bertindak jujur dalam hubungan pengadilan.

Penggunaan alat AI tidak membebaskan mereka dari kewajiban ini, tetapi semakin meningkatkan kebutuhan akan kewaspadaan dan verifikasi. Pendidik hukum juga didorong untuk memasukkan literasi dan etika AI ke dalam pelatihan guna menyiapkan praktisi menghadapi tantangan teknologi. Yudikatif secara ketat memantau penyalahgunaan AI dan siap memberikan sanksi tegas terhadap pengajuan materi yang palsu atau menyesatkan, dengan tujuan melindungi administrasi keadilan dan kepercayaan publik. Seiring AI menjadi semakin umum dalam bidang hukum, profesi ini harus mengadopsi alat ini secara bertanggung jawab. Peringatan dari Hakim Sharp berfungsi sebagai pengingat sekaligus panggilan untuk bertindak agar teknologi mendukung bukan malah merusak supremasi hukum. Singkatnya, penerapan AI dalam riset dan argumen hukum menuntut standar integritas tertinggi. Kegagalan dalam hal ini dapat berujung pada disiplin profesional dan pertanggungjawaban pidana. Semua pemangku kepentingan di bidang hukum didesak untuk bekerja sama dalam menetapkan pedoman yang lebih jelas, meningkatkan pendidikan, dan menumbuhkan kesadaran etis mengenai peran AI dalam praktik hukum. Perkembangan ini juga menyoroti tantangan masyarakat secara luas dalam mengelola dampak AI terhadap institusi penting, menegaskan perlunya menyeimbangkan inovasi dengan menjaga kepercayaan dan akuntabilitas dalam sistem peradilan.