یک قاضی فدرال در برمنگام، آلاباما، در حال بررسی این است که آیا باید دفتر حقوقی برجسته باتلر اسنوب را تنبیه کند یا خیر، پس از کشف پنج استناد نادرست حقوقی در مدارک دادگاهی اخیر مربوط به یک پرونده پر سر و صدای مرتبط با ایمنی یکی از زندانیان در مرکز تصحیح و تربیت ویلیام ای. دونالدسون، که در آن زندانی چندین بار مورد حمله قرار گرفته بود. این مسئله به دلیل ارتباط آن با استفاده از هوش مصنوعی (AI) در تحقیقات حقوقی، توجه ملی را جلب کرده است و خطرات اطلاعات نادرست تولید شده توسط AI را برجسته می‌کند. قاضی فدرال آمریکا آنا ماناسکو، که پرونده را نظارت می‌کند، این استنادهای نادرست را به عنوان "توهمات" تولید شده توسط AI شناسایی کرد؛ مرجع‌های ساختگی که ابزارهای AI مانند ChatGPT آن‌ها را ساخته‌اند. این استنادات نادرست در دو پرونده از سوی باتلر اسنوب ظاهر شدند که در حال دعاوی علیه مسئولان زندان بودند، به اتهام عدم حفاظت از ایمنی زندانیان. وجود چنین خطاهایی در مستندات رسمی دادگاه نگرانی‌های جدی درباره صحت تحقیقات حقوقی این دفتر و پیامدهای گسترده‌تر تکیه بر AI در پرونده‌های حساس حقوقی را برانگیخته است. مشکل پس از بررسی پرونده‌ها آشکار شد و مشخص شد که هیچ یک از پنج مورد استناد شده، از حمایت‌های لازم برخوردار نبوده‌اند. تحقیقات بیشتر تأیید کرد که این مراجع توسط ChatGPT تولید شده‌اند. باتلر اسنوب پذیرفت که قبل از درج آن‌ها در مدارک، صحت استنادها را مستقلانه بررسی نکرده است. مات رِویس، یکی از شرکای باتلر اسنوب درگیر در پرونده، مسئولیت را پذیرفت و توضیح داد که از ChatGPT برای تسریع در تحقیقات استفاده کرده، اما در تطبیق و بررسی اطلاعات کوتاهی کرده است. وی گفت: «من مسئولیت کامل اشتباهات را بر عهده می‌گیرم. این نقص در روند بررسی‌های استاندارد ما بود. » چهارتن دیگر از وکلای این شرکت، از جمله بیل لنزدورف، رئیس بخش وکیل، که هم‌چنین نایب‌السلطه دادستان کل است، مجوز مدارک را صادر کردند که لنزدورف نیز فقط بررسی سطحی انجام داده بود و این کم‌توجهی در نظارت را نشان می‌دهد. باتلر اسنوب، که یکی از شرکت‌های حقوقی قدیمی و مورد اعتماد است و میلیون‌ها دلار از دولت آلاباما برای پرونده‌های مربوط به زندان‌ها دریافت کرده، اکنون تحت بررسی شدیدتری قرار گرفته است، زیرا کارهای آن‌ها تأثیر مستقیمی بر رفاه زندانیان و اداره عدالت دارد. این شرکت بیانیه‌ای صادر و اعلام کرد از خطاهای رخ‌داده بسیار شرمنده است و تعهد خود را به رعایت استانداردهای حقوقی سختگیرانه مجدداً تأیید کرده و وعده داده است که تدابیر بهتری برای جلوگیری از تکرار خطاها اتخاذ کند. قاضی ماناسکو به باتلر اسنوب ده روز فرصت داده است تا پاسخ دهد، زیرا در حال بررسی اقدامات انضباطی است که ممکن است شامل جریمه یا تنبیه‌های دیگر باشد، با هدف حفظ سلامت قضایی و جلوگیری از تکرار تخلفات.

توجه ویژه به این پرونده نشان‌دهنده نگرانی روزافزون قوه قضائیه درباره استفاده از AI در حوزه قضایی است، به‌ویژه با توجه به تمایل AI به تولید محتوای نادرست یا ساختگی در صورت عدم کنترل. این رویداد یکی از نخستین نمونه‌های پر سر و صدای اثرگذاری مادی AI در اسناد دادگاه فدرال است و به عنوان یک هشدار برای حرفه‌ای‌های حقوقی در سراسر کشور عمل می‌کند. با افزایش کاربرد AI در صنایع مختلف، وکلا و حقوق‌دانان باید با چالش‌های فوری در رعایت اخلاق، تضمین دقت و مدیریت ریسک‌های اتوماسیون در مسائل حساس حقوقی مواجه شوند. این پرونده بر اهمیت نظارت انسانی در تحقیقات مبتنی بر AI تأکید می‌کند. در حالی که AI می‌تواند بهره‌وری را افزایش دهد، نمی‌تواند جایگزین قضاوت دقیق، تخصص و بررسی‌های لازم وکیل‌ها شود. اشتباه باتلر اسنوب نشان می‌دهد که حتی شرکت‌های معتبر نیز بدون دقت لازم، در معرض خطرات فناوری قرار دارند. کارشناسان حقوق به این حادثه واکنش نشان داده و خواستار ارزیابی گسترده‌تر نقش AI در حرفه حقوق شده‌اند. با توسعه راهکارهای قضایی برای چالش‌های مربوط به AI، انتظار می‌رود راهنمایی‌های واضح‌تر و استانداردهای حرفه‌ای وضع شود. در عین حال، وکلا باید قبل از اعتماد کامل به داده‌های تولید شده توسط AI، آن‌ها را به شدت بررسی کنند. پروژه فراتر از طرف‌های مربوطه، یک گفت‌وگوی اجتماعی و قضایی وسیع‌تر درباره اعتماد، مسئولیت‌پذیری و رابطه متغیر بین فناوری و قانون را برمی‌انگیزد. نتیجه بررسی‌های قاضی ماناسکو و هرگونه تنبیه علیه باتلر اسنوب می‌تواند معیار جدیدی در مقررات اثرگذاری AI در تحقیقات و دعاوی حقوقی باشد. در کنار جهانیان حقوقی، این رویداد به‌طور قاطع یادآور این است که دقت و صحت‌آزمایی در کار حقوقی اساسی است. همچنین، چالش‌هایی که دادگاه‌ها و وکلا در تلفیق فناوری‌های نوین برای رعایت عدالت و حقوق فردی با آن روبرو هستند، برجسته می‌شود. در خلاصه، استفاده ناخواسته باتلر اسنوب از استنادهای نادرست تولید شده توسط AI در یک پرونده مهم مربوط به امنیت زندانیان، سوالات حیاتی درباره نقش AI در حوزه حقوق را برانگیخته است. پاسخ قضایی در تلاش است تا این بی‌نظمی‌ها را برطرف و استانداردهای لازم برای اعتمادسازی در سیستم حقوقی را تقویت کند. این پرونده به عنوان یک چرخش مهم در گفت‌وگوهای جاری درباره جایگاه AI در حقوق و مسئولیت وکیل‌ها در بهره‌برداری از این ابزارها قرار می‌گیرد.