Seorang hakim Persekutuan di Birmingham, Alabama, sedang menyemak sama ada untuk mengenakan hukuman terhadap firma guaman terkenal, Butler Snow, selepas mendapati lima petikan undang-undang palsu dalam dokumen mahkamah terkini berkaitan satu kes berprofil tinggi yang melibatkan keselamatan tahanan di Kemudahan Hukuman William E. Donaldson, di mana tahanan tersebut dicekik beberapa kali. Isu ini mendapat perhatian nasional kerana kaitannya dengan penggunaan kecerdasan buatan (AI) dalam penyelidikan undang-undang, sekali gus menonjolkan risiko maklumat yang tidak boleh dipercayai hasil daripada AI. Hakim Daerah AS, Anna Manasco, yang mengendalikan kes ini, mengenal pasti petikan palsu itu sebagai "halusinasi" yang dijana oleh AI, merujuk kepada rujukan palsu yang dihasilkan oleh alat AI seperti ChatGPT. Petikan yang tidak tepat itu muncul dalam dua dokumen yang difailkan oleh Butler Snow, yang sedang berperang dalam saman terhadap pegawai penjara yang didakwa gagal melindungi keselamatan tahanan. Kehadiran kesilapan sedemikian dalam dokumen rasmi mahkamah menimbulkan kebimbangan serius berkenaan integriti penyelidikan undang-undang firma tersebut dan implikasi lebih luas terhadap kebergantungan kepada AI dalam konteks undang-undang yang penting. Isu ini terbongkar selepas semakan kes mendapati bahawa tiada satu pun daripada lima kes rujukan tersebut menyokong hujah-hujah undang-undang yang dikemukakan. Siasatan lanjut mengesahkan bahawa rujukan tersebut dijana oleh ChatGPT. Butler Snow mengaku tidak mengesahkan secara bebas petikan-petikan tersebut sebelum memasukkannya dalam dokumen mereka. Matt Reeves, seorang rakan kongsi Butler Snow yang terlibat dalam kes ini, menerima tanggungjawab, menjelaskan bahawa dia menggunakan ChatGPT untuk mempercepatkan penyelidikan tetapi gagal untuk menyemak semula maklumat tersebut. “Saya bertanggungjawab sepenuhnya atas kesilapan ini. Ini adalah kegagalan dalam proses pengesahan standard kami, ” katanya. Empat peguam lain, termasuk Ketua bahagian Bill Lunsford—yang juga merupakan timbalan peguam negara—menandatangani dokumen tersebut, dengan Lunsford mengakui hanya melakukan semakan ringkas, menonjolkan kekurangan dalam pengawasan. Butler Snow, firma yang sudah lama beroperasi dan pernah menerima berjuta-juta dolar dari Negeri Alabama untuk litigasi penjara, kini berdepan penilaian semula yang lebih ketat disebabkan impak langsung kerja mereka terhadap kebajikan tahanan dan pentadbiran keadilan. Firma itu mengeluarkan kenyataan yang menyatakan rasa malu yang mendalam terhadap kesilapan tersebut, serta mengukuhkan komitmen terhadap standard undang-undang yang ketat dan berjanji untuk meningkatkan langkah-langkah keselamatan bagi mengelakkan kejadian berulang. Hakim Manasco memberi masa sepuluh hari kepada Butler Snow untuk memberi maklum balas kerana beliau sedang mempertimbangkan tindakan disiplin, yang mungkin termasuk denda atau hukuman lain bertujuan mengekalkan integriti kehakiman dan mencegah salah laku masa depan.

Perhatiannya terhadap kes ini mencerminkan kebimbangan yang semakin meningkat dalam kalangan mahkamah mengenai penggunaan AI dalam bidang undang-undang, terutama memandangkan kecenderungan AI untuk menghasilkan kandungan yang tidak tepat atau palsu jika tidak dikawal ketat. Insiden ini merupakan salah satu contoh terkenal pertama mengenai bahan yang dijana oleh AI yang memberi kesan kepada dokumen mahkamah persekutuan dan berfungsi sebagai peringatan kepada profesional undang-undang di seluruh negara. Seiring dengan pengintegrasian AI yang semakin meluas dalam pelbagai industri, peguam dihadapkan kepada cabaran mendesak untuk menegakkan etika, memastikan ketepatan, dan mengurus risiko automasi dalam hal-hal undang-undang yang sensitif. Kes ini menegaskan peranan penting pengawasan manusia dalam penyelidikan yang dibantu AI. Walaupun AI mampu meningkatkan kecekapan, ia tidak dapat menggantikan penilaian berhati-hati, kepakaran, dan pengesahan yang diberikan oleh peguam. Kesilapan Butler Snow mendedahkan bahawa walaupun firma yang sudah mapan tetap terdedah kepada perangkap teknologi tanpa pengurusan yang betul. Pakar undang-undang mendesak agar episod ini menjadi penggerak kepada penilaian semula secara meluas mengenai peranan AI dalam amalan undang-undang. Ketika mahkamah mengembangkan pendekatan kepada cabaran AI, dijangka akan muncul garis panduan dan piawaian profesional yang lebih jelas. Sementara itu, peguam dinasihatkan untuk menyemak setiap data yang dijana oleh AI dengan teliti sebelum menggunakannya di mahkamah. Selain daripada pihak yang terlibat secara langsung, kes ini menyoroti perbualan yang lebih luas dalam masyarakat dan sistem perundangan mengenai kepercayaan, akauntabiliti, dan hubungan yang berkembang antara teknologi dan undang-undang. Hasil semakan oleh Hakim Manasco dan sebarang hukuman terhadap Butler Snow berpotensi menjadi precedent dalam mengawal pengaruh AI dalam penyelidikan dan litigasi undang-undang. Sementara komuniti undang-undang mengikuti perkembangan, episod ini dengan kuat menegaskan bahawa ketepatan dan integriti kekal sebagai asas dalam kerja undang-undang. Ia juga menggambarkan cabaran yang dihadapi mahkamah dan peguam dalam mengintegrasikan teknologi baharu ke dalam kerangka yang direka untuk menegakkan keadilan dan melindungi hak-hak. Secara ringkas, penggunaan tanpa disengajanya petikan palsu yang dijana oleh AI dalam tuntutan keselamatan penjara yang sensitif oleh Butler Snow telah menyoroti kebimbangan penting mengenai peranan AI dalam bidang undang-undang. Respon kehakiman bertujuan untuk menangani salah laku ini dan memperkukuh piawaian yang memastikan kepercayaan terhadap sistem perundangan. Kes ini merupakan satu titik penting dalam perbincangan berterusan tentang kedudukan AI dalam undang-undang dan tanggungjawab penting yang perlu dipikul oleh profesional undang-undang yang menggunakan alat tersebut.