یک ائتلاف از دادستان‌های کل ایالات متحده در سراسر کشور رسما هشدار داده‌اند به آزمایشگاه‌های پیشگام در زمینه هوش مصنوعی، به‌ویژه مایکروسافت، OpenAI و گوگل، و از آن‌ها خواسته‌اند تا به مسائل مهم مربوط به مدل‌های زبانی بزرگ (LLMs) خود رسیدگی کنند. این سیستم‌های هوش مصنوعی، که به‌خاطر توانایی پیشرفته در فهم و تولید متن شبیه به انسان شناخته شده‌اند، گاهی اوقات نتایج «توهم‌زای» یا ه hallucinations AI ارائه می‌دهند — جواب‌هایی نادرست، گمراه‌کننده یا کاملاً ساختگی. چنین خطاهایی خطر اشاعه اطلاعات نادرست یا مضر به‌عنوان واقعیت را دارد. دادستان‌های کل بر خطرات حقوقی و اخلاقی این نادرستی‌ها تأکید می‌کنند و یادآور می‌شوند که نتایج گمراه‌کننده ممکن است قوانین را نقض کرده و عواقب حقوقی برای شرکت‌های مسئول را به همراه داشته باشد. این هشدار یک لحظه مهم در حکمرانی بر هوش مصنوعی است که نشان‌دهنده بررسی دقیق‌تر شفافیت، قابلیت اطمینان و حسابرسی فناوری‌های هوش مصنوعی است که به‌صورت عمومی به کار گرفته شده‌اند. مدل‌های زبانی مایکروسافت، OpenAI و گوگل قدرت تعداد زیادی برنامه‌های پرکاربرد را دارند و این موضوع باعث افزایش درخواست‌ها برای ایجاد محافظت‌های قوی‌تر به‌منظور محدود کردن توهم‌ها و بهبود سازوکارهای نظارتی شده است، تا از مصرف‌کنندگان، کسب‌وکارها و بخش‌هایی که به اطلاعات دقیق هوش مصنوعی وابسته‌اند، محافظت شود. این مداخله همچنین نشان‌دهنده نگرانی‌های گسترده‌تر جامعه درباره پتانسیل هوش مصنوعی در تضعیف اعتماد عمومی، تشدید روایت‌های نادرست و سوء استفاده‌های خبیثانه است. مقامات حقوقی در حال اقدام هستند تا اطمینان حاصل کنند توسعه هوش مصنوعی با استانداردهای نظارتی و منافع عمومی هماهنگ باشد.

در پاسخ، انتظار می‌رود جامعه هوش مصنوعی با نهادهای نظارتی همکاری کند تا تعادل میان نوآوری و مسئولیت برقرار شود، و بر شفافیت، دقت و ایمنی کاربران به‌عنوان اصول مهم در استفاده اخلاقی از هوش مصنوعی تأکید داشته باشد. در حالی که شرکت‌های هوش مصنوعی توهم‌ها را پذیرفته و اقداماتی برای بهبود، مانند روش‌های بهتر آموزش و نظارت انسانی انجام داده‌اند، افزایش نظارت حقوقی نشان می‌دهد که نیاز به تلاش‌های قوی‌تر برای جلوگیری از نتایج مضر یا غیرقانونی ضروري است. این وضعیت بر پیچیدگی پیاده‌سازی هوش مصنوعی و اهمیت همکاری میان توسعه‌دهندگان فناوری، سیاست‌گذاران و مقامات حقوقی تأکید می‌کند تا فناوری‌های رو به رشد با تأثیرات وسیع اجتماعی به‌درستی تنظیم شوند. هم‌اکنون، با گسترش کاربردهای هوش مصنوعی در حوزه‌هایی مانند خدمات مشتری، تولید محتوا و پشتیبانی تصمیم‌گیری، رسیدگی به نتایج توهم‌زا اهمیت بیشتری پیدا کرده است. راهکارها احتمالا شامل بهبودهای فنی، شفافیت بیشتر، سیاست‌های روشن در استفاده و نهادهای نظارتی قوی‌تر خواهند بود. در خلاصه، هشدار اخیر دادستان‌های کل ایالات متحده به آزمایشگاه‌های برتر هوش مصنوعی، گامی حیاتی در حکمرانی هوش مصنوعی محسوب می‌شود که نیازمند اقداماتی عملی برای مهار توهم‌های هوش مصنوعی است و نفوذ رو به رشد چارچوب‌های حقوقی در هدایت توسعه مسئولانه هوش مصنوعی را نشان می‌دهد. این لحظه فرصت مناسبی است برای همه ذینفعان تا بار دیگر تعهد خود را به توسعه اخلاقی هوش مصنوعی اعلام کنند و اطمینان حاصل کنند این ابزارهای قدرتمند به‌طور قابل اعتماد و ایمن در خدمت جامعه هستند.