Багамберг, Алабамадағы федералды сот тағайындаған судья Максио Ану Манаско жақында ғана сот ісінде бірнеше жалған заңды сілтемелерді анықтағаннан кейін, атақты заң фирмасы Butler Snow-ға санкция салу туралы мәселені қарап жатыр. Бұл қылмысты қамтитын жоғары деңгейлі іс бойынша, ол қамаудағы адамның қауіпсіздігіне байланысты болған, онда тұтқын бірнеше рет пышақталды. Бұл мәселе ұлттық назар аударды, өйткені ол құқықтық зерттеуде жасанды интеллектінің (AI) қолданылуымен байланысты болып шықты, бұл сенімсіз AI-генерацияланған ақпараттың қаупін көрсетеді. Істің қаралуына жетекшілік еткен АҚШ-тың аудандық судьясы Ана Манаско жалған сілтемелерді AI-нің «галлюцинациялары» деп анықтады, олар ChatGPT сияқты AI- құралдарымен жасалған өтірік сілтемелер болды. Бұл бұрмалаушылықтар Butler Snow заң фирмасының екі өтінішінде кездескен, олар түрме қызметкерлерін тұтқын қауіпсіздігін қорғамағаны үшін айыптаған. Бұл қателіктердің ресми сот құжаттарында болуы заңды зерттеу сапасына және маңызды заңдық жағдайларда AI-ге сүйенудің кеңірек салдарына қауіп төндіреді. Мәселе туралы ақпарат былтырғы іс талдау кезінде ашылды, онда көрсетілген бес іс ешқайсысы да заңды дәлелдерді қолдамағаны анықталды. Кейінгі тексеру ChatGPT көмегімен жасалғанын дәлелдеді. Butler Snow компаниясы бұл цитаталарды өз бетімен тексермегенін мойындады. Мәселеде қатысқан Butler Snow серіктесі Мэтт Ривз жауапкершілікті мойындап, ол AI-ге, Specifically ChatGPT-ке, зерттеуді тездету үшін жүгінгенін, бірақ ақпаратты қосқанда тексермегенін айтты. «Мен бұл қателіктер үшін толық жауапкершілікті аламын. Бұл біздің стандартты тексеру процестеріміздегі сәтсіздік болды», деді ол. Тек онша мұқият емес тексеру жүргізген тағы төрт заңгер, оның ішінде бөлім басшысы және орынбасар прокурор Билл Лунсфорд та құжаттарға қол қойған. Лунсфорд тек екі-үш минутқа қарап, тек мақұлдағанын мойындады, бұл бақылаудың жетіспегенін көрсетеді. Butler Snow – ұзақ жылдан бері жұмыс істеп келе жатқан, Алабама штатының түрме сот ісін жүргізу үшін миллиондаған ақша алатын фирма. Енді олардың жұмысының тұтқындарды қорғау мен әділдік басқармасындағы тікелей әсері екінші жоспарда тұр.

Компания терең ұялып, құжаттарында кеткен қателіктер үшін өз өкінішін білдіріп, қатаң заң талаптарына сай болуды уәде етті және қайталануына жол бермеу үшін шаралар қабылдайтынын айтты. Сотта қаралып жатқан іс бойынша, судья Манаско Butler Snow-ға он күн мерзім беріп, оған моральдық және кәсіби салдарын анықтау үшін жауап беруді сұрады. Бұл шараларға айыппұлдар немесе басқа да санкциялар қатысты болуы мүмкін, олар соттың адалдығын сақтау және болашақта бұзушылықтарды ескерту мақсатында қабылданады. Бұл жағдай соттарда AI-ды қолданудағы алаңдаушылықтардың артып келе жатқанын көрсетеді, өйткені жасанды интеллект қате немесе жалған мазмұнды шығаруға бейім болғандықтан, оны бақылаусыз қолдану қауіпті. Бұл оқиға алғашқы жоғары деңгейлі мысалдардың бірі болды, ол федералды сот құжаттарына AI-мен жасалған ақпараттың әсерін көрсетті және заң саласындағы мамандарға ескертпе ретінде қызмет етеді. AI салалары кеңінен қолданылатын қазіргі уақытта заңгерлер этика, дәлдік пен автоматтандыру қауіптерін басқаруда шұғыл түрде күресуі керек. Бұл жағдай адамдардың бақылауы мен AI көмегімен жүргізілетін зерттеулердің маңызды рөлін көрсетеді. AI тиімділікті арттырса да, оны толық ауыстырмайтын – заңгерлердің тәжірибесі, сараптамасы мен дәлелдеу үрдісі маңызды. Butler Snow-дың қателігі, кез келген беделді фирманың да технологияның кемшіліктеріне бейім екенін көрсетеді, егер мұқият бақылаусыз қалса. Заң мамандары бұл оқиға AI-дың заң практикасындағы рөлін қайта бағалап, оны реттеу қажеттілігін алға тартып отыр. Соттар AI-мен байланысты мәселелерді шешу үшін нақты нұсқаулықтар мен кәсіби стандарттарды дамытуды көздейді. Сонымен қатар, заңгерлерге барлық AI-мен жасалған ақпаратты мұқият тексеріп, сенімсіз болған жағдайда қолданбау ұсынылады. Осы оқиға кеңірек қоғам мен сот жүйесінде сенім, жауапкершілік пен технология мен заң арасындығы қатынастарды талқылауға түрткі болады. Судья Манасконың бұл істеге және Butler Snow-ға қатысты жүргізетін тергеуі AI-ды заңда қолдану саласындағы нормативтік базаны қалыптастыруда маңызды болмақ. Заң қауымдастығы бұл жағдайды бақылап, дәлдік пен адалдық әрқашан заң қызметіндегі негізгі қағидаттар болып қала беретінін көрсетеді. Олар сондай-ақ соттар мен заңгерлердің жаңа технологияларды әділеттілік пен құқық қорғауды қамтамасыз ету үшін қалай үйлестіру керектігін көрсетеді. Қысқаша айтқанда, Butler Snow-дың қауіпті түрмедегі қауіпсіздікке қатысты істе жалған AI-жа created гипотезалық сілтемелерді кездейсоқ қолдануы AI-дың заңдағы рөлін тәуелсіз бағалауға себеп болды. Соттың реакциясы бұл бұзушылықтарды жоюға және заңды сенімділікті арттыруға бағытталған стандарттарды күшейтуге ұмтылады. Бұл іс – AI-дің заңда қолданылуын реттеуде және заңгерлердің жауапкершілігі мен кәсіби этикасына қатысты талқылауда маңызды кезең болып табылады.