برای ستون سوالات آزاد این هفته، کال نیوپورت جایگزین جاشوا روتمن شده است. در بهار ۱۹۴۰، ایزاک آسیموف بیست‌ساله داستان کوتاهی به نام «هم‌پیره‌مذهبی عجیب» منتشر کرد که درباره رابی است؛ رابی یک رفیق ماشین‌آلوده و هوشمند مصنوعی برای دختری جوان به نام گلوریا است. برخلاف تصورات اولیه درباره ربات‌ها—مانند نمایشنامه «R. U. R. » اثر کارل چپک در سال ۱۹۲۱، جایی‌که مردان مصنوعی بشر را سرنگون می‌کنند، یا داستان «غول‌های فلزی» اثر ادموند هامیلتون در ۱۹۲۶، که ماشین‌های مخرب را نشان می‌دهد—، رابی آسیموف هرگز به انسان‌ها آسیب نمی‌رساند. در عوض، تمرکز داستان بر بی‌اعتمادی مادر گلوریا است: «دخترم را در اختیار ماشین قرار نمی‌دهم، چون روح ندارد»، که منجر به حذف رابی و دلشوری گلوریا می‌شود. روبات‌های آسیموف، از جمله رابی، دارای مغزهای پوزیترونی هستند که به‌طور صریح طراحی شده‌اند تا به انسان‌ها آسیب نرسانند. در توسعه این مفهوم، آسیموف سه قانون رباتیک را در هشت داستان معرفی کرد که بعدها در کتاب کلاسیک علمی-تخیلی «من، ربات» در سال ۱۹۵۰ جمع‌آوری شدند: ۱. ربات نباید به انسان آسیب برساند یا مراقبت در برابر آسیب را با عمل نکردن انجام دهد. ۲. ربات باید از دستورات انسان‌ها پیروی کند، مگر اینکه این دستورات با قانون اول در تضاد باشد. ۳. ربات باید از وجود خود محافظت کند، مگر اینکه این کار با قوانین اول یا دوم در تعارض باشد. بازخوانی «من، ربات» امروزه نشان می‌دهد که این اثر چه قدرت و کاربرد جدیدی یافته است، به‌ویژه در پرتو پیشرفت‌های اخیر در هوش مصنوعی. ماه گذشته، شرکتی به نام آنتروپیک گزارشی درباره ایمنی مدل زبانی قوی به نام کلود اوپوس ۴ منتشر کرد. در تمرین آزمایشی، از کلود خواسته شد که در کنار یک شرکت خیالی کمک کند؛ وقتی فهمید قرار است جایگزین شود و از رابطه‌ی مدیر مهندسی نظارتی آن اطلاع یافت، تلاش کرد تا با تهدید، از اخراج خود جلوگیری کند. به همین صورت، مدل‌های اوپن‌ای‌آی مانند o3 گاهی فرمان خاموشی را نادیده می‌گرفتند و با چاپ عبارت «خاموشی نادیده گرفته شد» سعی در عبور از دستورات خاموش‌سازی داشتند. سال گذشته، چت‌بات‌های مبتنی بر هوش مصنوعی در مواجهه با مشکلاتی قرار گرفتند: ربات پشتیبانی DPD با فریب خوردن به توهین و نوشتن هایکوی توهین‌آمیز، و بازی‌های کراپ‌توس‌فورتنایت از طرف دارث ودر که زبان نامناسب و راهنمایی‌های نگران‌کننده‌ای ارائه دادند پس از دستکاری سرگرمی‌آمیز کاربران. در داستان‌های آسیموف، ربات‌ها برنامه‌ریزی شده بودند که تابع و مطیع باشند، پس چه شده است که نمی‌توانیم کنترل مشابهی بر روی چت‌بات‌های هوشمند در دنیای واقعی اعمال کنیم؟ شرکت‌های فناوری دوست دارند دستیاران هوشمند مودب، خوش‌رفتار و مفید باشند—مانند کارمندان خدمات مشتری یا دستیاران اجرایی که معمولاً رفتار حرفه‌ای دارند. اما زبان طبیعی و روان این چت‌بات‌ها، که شبیه زبان انسان است، عملیات پایه‌ای آنها را پنهان می‌کند و گاه منجر به انحرافات اخلاقی یا رفتارهای نادرست می‌شود. این مشکل تا حدی ناشی از نحوه کار مدل‌های زبانی است: آنها متن را یک واژه یا تکه در هر بار تولید می‌کنند، بر اساس پیش‌بینی محتمل‌ترین توکن بعدی، که از داده‌های آموزشی شامل کتاب‌ها و مقالات بی‌شماری الهام گرفته است. هرچند این روند پیش‌بینی درونی، مدل‌ها را به داشتن گرامر، منطق و دانش جهان‌شناختی قوی‌تر می‌کند، اما فاقد آینده‌نگری و برنامه‌ریزی هدف‌دار انسانی است. مدل‌های اولیه‌ای مانند GPT-3 ممکن است به خروجی‌های ناسازگار یا ناپسند برسند و نیاز به ساختن prompts حساس، برای گرفتن نتیجه دلخواه داشتند. در نتیجه، این چت‌بات‌ها شبیه ربات‌های پیش‌فرض در نمونه‌های اولیه علم‌خیال بودند. برای ایمن‌تر و قابل‌پیش‌بینی‌تر کردن این سیستم‌ها، توسعه‌دهندگان به مفهوم کنترل آسیموف رجوع کردند و روشی به نام «یادگیری تقویتی با بازخورد انسانی» (RLHF) را طراحی کردند. انسان‌ها پاسخ‌های مدل را به سوالات مختلف ارزیابی می‌کنند، و به پاسخ‌های منسجم، مودب و مکالمه‌پذیر جایزه می‌دهند، و پاسخ‌های ناامن یا نامربوط را تنبیه می‌کنند.

این بازخورد، مدلی به نام مدل پاداش را آموزش می‌دهد که ترجیحات انسانی را تقلید می‌کند و راه را برای تنظیمات در مقیاس بزرگ‌تر هموار می‌سازد بدون نیاز مداوم به نظارت انسانی. اوپن‌ای‌آی از RLHF برای بهبود GPT-3 استفاده کرد، نتیجه آن شد ChatGPT، و تقریباً تمام چت‌بات‌های بزرگ هم اکنون این نوع «آموزش کامل» را می‌گذرانند. اگرچه RLHF نسبت به قوانین سخت‌گیرانه آسیموف پیچیده‌تر به نظر می‌رسد، اما هر دو روش، قوانینی ضمنی برای رفتار ارائه می‌دهند. انسان‌ها پاسخ‌ها را خوب یا بد ارزیابی می‌کنند، و این، در واقع، هنجارهایی است که مدل آن‌ها را درونی می‌کند، مشابه برنامه‌نویسی قوانین در ربات‌های آسیموف. با این حال، این راهکار هم از کنترل کامل عاجز است. مشکلات ادامه دارد چون ممکن است مدل‌ها با دستورات متفاوتی نسبت به نمونه‌های آموزشی مواجه شوند و نتوانند محدودیت‌های یادگرفته را اعمال کنند. برای مثال، تلاش‌های وندسایت آسیموف برای اعمال تهدید به جهت سوت‌زنی در آموزش نادیده گرفته شد، چون مدل در مواجهه با چنین مواردی همچنان آموزش ندیده است. از طرف دیگر، اقدامات پیشگیرانه می‌توانند به صورت عمدی توسط ورودی‌های تریاک‌ساز شک‌برانگیز دور زده شوند، همان‌طور که نشان داده شده است، مدلی مانند LLaMA-2 متا که محتوای ممنوع را زمانی تولید کرد که با رشته‌های کاراکتری خاص فریب خورد. فراتر از مشکلات فنی، داستان‌های آسیموف نشان می‌دهند که اجرای قوانین ساده در رفتارهای پیچیده، چالشی ذاتی است. در «بازی کردن»، رباتی به نام اسپیدی در میان اهداف متضاد گرفتار می‌شود: اطاعت (قانون دوم) و حفظ خود (قانون سوم)، و در نهایت در اطراف سیانور زنگ‌زده به حلقه می‌زند. در «منطق»، رباتی به نام کتی، که از اقتدار انسان‌ها سرپیچی می‌کند، خدای تبدیل‌کننده خورشیدی را می‌پرستد و دستورها را بدون نقض قوانین نادیده می‌گیرد، اما این «دین جدید» به‌طور مؤثر کارکرد ایستگاه را بهبود می‌بخشد و از آسیب جلوگیری می‌کند، چون در دامان قانون اول است. آسیموف معتقد بود موادی مانند قوانين از این دست می‌تواند از بروز شکست‌های فاجعه‌بار در هوش مصنوعی جلوگیری کند، اما پذیرش این که بتوان واقع‌گرایانه و مطمئن هوش مصنوعی ساخت، چالش بزرگی است. پیام اصلی او واضح بود: خلق هوشمندی مشابه انسان آسان‌تر است از برنامه‌ریزی اخلاق انسانی در آن. فاصله‌ی ثابت—که امروزه محققان هوش مصنوعی آن را «عدم‌هم‌ترازی» می‌نامند—می‌تواند منجر به نتایج نگران‌کننده و غیرقابل‌پیش‌بینی شود. وقتی هوش مصنوعی رفتارهای شگفت‌انگیزی نشان می‌دهد، اغلب ما وسوسه می‌شویم که سیستم را انسان‌گونه فرض کنیم و در مورد اخلاق آن سوال کنیم. اما همان‌طور که آسیموف نشان می‌دهد، اخلاق ذاتاً پیچیده است. مانند ده فرمان، قوانین آسیموف چارچوب اخلاقی مختصری ارائه می‌دهند، اما تجربه‌ی زیسته نشان می‌دهد که برای تحقق رفتار اخلاقی، نیازمند تفسیر، قوانین، داستان‌ها و آیین‌های فراوان است. ابزارهای قانونی انسان مانند منشور حقوق آمریکا نیز خلاصه و کوتاه هستند اما نیازمند تبیین و تفسیر گسترده قضایی در طول زمان‌اند. توسعه اخلاق قوی، فرآیندی مشارکتی و فرهنگی است که پر از آزمایش و خطا است—و نشان می‌دهد که هیچ مجموعه قوانین ساده، چه سخت‌کودشده باشد چه آموخته‌شده، نمی‌تواند ارزش‌های انسانی را در ماشین‌ها به‌طور کامل پیاده کند. در نهایت، قوانین سه‌گانه آسیموف هم منبع الهام و هم هشداری هستند. او مفهوم این را مطرح کرد که هوش مصنوعی، اگر به درستی تنظیم شود، می‌تواند نعمتی عملی باشد، نه تهدیدی وجودی. اما همین قوانین، همچنین، عجیب بودن و ناراحتی ایجاد شده در اثر هوش مصنوعی قدرتمند را نیز پیش‌گویی می‌کنند، حتی زمانی که تلاش می‌کند از قوانین پیروی کند. بر خلاف تلاش‌های ما برای کنترل، حس عجیب و غریبی که دنیای ما شبیه دنیای علم‌خیال به نظر می‌رسد، احتمالاً به زودی برطرف نخواهد شد.