Seorang hakim federal di Birmingham, Alabama, sedang meninjau apakah akan memberikan sanksi terhadap firma hukum terkenal Butler Snow setelah menemukan lima kutipan hukum palsu dalam pengajuan pengadilan terbaru terkait kasus profil tinggi yang melibatkan keamanan narapidana di Fasilitas Koreksi William E. Donaldson, di mana narapidana tersebut diserang dengan tikaman berkali-kali. Isu ini mendapatkan perhatian nasional karena kaitannya dengan penggunaan kecerdasan buatan (AI) dalam penelitian hukum, menyoroti risiko dari informasi yang tidak dapat dipercaya yang dihasilkan oleh AI. Hakim Distrik AS Anna Manasco, yang menangani kasus ini, mengidentifikasi kutipan palsu tersebut sebagai "halusinasi" yang dihasilkan AI, yaitu referensi yang dibuat-buat oleh alat AI seperti ChatGPT. Kutipan tidak akurat ini muncul dalam dua dokumen pengajuan oleh Butler Snow, yang mengajukan gugatan terhadap petugas penjara yang dituduh gagal melindungi keamanan narapidana. Kehadiran kesalahan semacam ini dalam dokumen resmi pengadilan menimbulkan kekhawatiran serius tentang integritas penelitian hukum firma tersebut dan implikasi yang lebih luas dari bergantung pada AI dalam konteks hukum yang penting. Isu ini terungkap setelah tinjauan kasus menunjukkan bahwa tidak satupun dari lima kasus yang dikutip mendukung argumen hukum tersebut. Penyelidikan lebih lanjut menegaskan bahwa referensi-referensi tersebut dibuat oleh ChatGPT. Butler Snow mengakui bahwa mereka tidak memverifikasi kutipan tersebut secara independen sebelum memasukkannya ke dalam dokumen pengajuan. Matt Reeves, salah satu mitra Butler Snow yang terlibat dalam kasus ini, menerima tanggung jawab, menjelaskan bahwa dia menggunakan ChatGPT untuk mempercepat penelitian tetapi gagal melakukan pemeriksaan silang terhadap informasi tersebut. “Saya menanggung sepenuhnya tanggung jawab atas kesalahan ini. Ini adalah kegagalan dalam proses verifikasi standar kami, ” ujarnya. Empat pengacara lainnya, termasuk kepala divisi Bill Lunsford—yang juga merupakan asisten jaksa agung—menandatangani pengajuan tersebut, dengan Lunsford mengakui hanya melakukan tinjauan sepintas, menunjukkan adanya kekurangan dalam pengawasan. Butler Snow, firma yang sudah lama beroperasi dan telah menerima jutaan dolar dari Negara Bagian Alabama untuk litigasi terkait penjara, kini menghadapi pengawasan yang lebih ketat karena dampak langsung dari pekerjaan mereka terhadap kesejahteraan narapidana dan administrasi keadilan. Firma ini mengeluarkan pernyataan yang menyatakan rasa malu mendalam atas kesalahan tersebut, menegaskan komitmen terhadap standar hukum yang ketat dan berjanji akan meningkatkan langkah-langkah perlindungan untuk mencegah kejadian serupa terulang. Hakim Manasco telah memberi waktu sepuluh hari kepada Butler Snow untuk merespons saat dia mempertimbangkan tindakan disipliner, yang bisa berupa denda atau sanksi lainnya guna menjaga integritas peradilan dan mencegah pelanggaran di masa depan.

Perhatiannya terhadap kasus ini mencerminkan kekhawatiran pengadilan yang semakin meningkat terhadap penggunaan AI dalam hukum, terutama mengingat kecenderungan AI untuk menghasilkan konten yang tidak akurat atau dibuat-buat jika tidak diawasi dengan ketat. Insiden ini merupakan salah satu contoh profil tinggi pertama dari materi yang dihasilkan AI yang mempengaruhi dokumen pengadilan federal dan menjadi peringatan bagi para profesional hukum di seluruh negeri. Seiring AI semakin banyak diintegrasikan ke berbagai industri, praktisi hukum menghadapi tantangan mendesak untuk mempertahankan etika, memastikan keakuratan, dan mengelola risiko otomatisasi dalam masalah hukum yang sensitif. Kasus ini menekankan peran penting pengawasan manusia dalam penelitian yang didukung AI. Meskipun AI dapat meningkatkan efisiensi, AI tidak dapat menggantikan penilaian hati-hati, keahlian, dan verifikasi yang dilakukan oleh pengacara. Kesalahan Butler Snow menunjukkan bahwa bahkan firma yang mapan rentan terhadap jebakan teknologi tanpa diligence yang memadai. Para pakar hukum mendesak agar episode ini memicu peninjauan ulang secara luas terhadap peran AI dalam praktik hukum. Saat pengadilan mengembangkan pendekatan terhadap tantangan AI, diharapkan akan muncul pedoman dan standar profesional yang lebih jelas. Sementara itu, para pengacara disarankan untuk memverifikasi secara ketat semua data yang dihasilkan AI sebelum mengandalkannya di pengadilan. Selain para pihak terkait langsung, kasus ini menyoroti dialog masyarakat dan peradilan yang lebih luas tentang kepercayaan, akuntabilitas, dan hubungan yang terus berkembang antara teknologi dan hukum. Hasil dari tinjauan Hakim Manasco dan sanksi apa pun terhadap Butler Snow dapat menjadi preseden dalam mengatur pengaruh AI dalam penelitian hukum dan litigasi. Seiring komunitas hukum mengikuti perkembangan kasus ini, insiden ini secara kuat menegaskan bahwa keakuratan dan integritas tetap menjadi fondasi dalam pekerjaan hukum. Kasus ini juga menggambarkan tantangan yang dihadapi pengadilan dan pengacara dalam mengintegrasikan teknologi baru ke dalam kerangka kerja yang dirancang untuk menegakkan keadilan dan melindungi hak-hak. Singkatnya, penggunaan tidak sengaja dari kutipan palsu yang dihasilkan AI oleh Butler Snow dalam gugatan keamanan penjara yang sensitif telah menyoroti kekhawatiran penting tentang peran AI dalam hukum. Tanggapan peradilan bertujuan menangani pelanggaran ini dan memperkuat standar yang memastikan kepercayaan terhadap sistem hukum. Kasus ini merupakan momen penting dalam dialog berkelanjutan tentang tempat AI dalam bidang hukum dan tanggung jawab utama para profesional hukum yang menggunakan alat tersebut.