بالنسبة لعمود الأسئلة المفتوحة لهذا الأسبوع، يُقدم كال نيوبورت بدلاً من جوشوا روثمان. في ربيع عام 1940، نشر الشاب إيزاك أسيموف، الذي كان في الثانية والعشرين من عمره، قصة قصيرة بعنوان "رفيق غريب"، تدور حول روبّي، جهاز ذكي صناعي يُعدّ كمرافق لصبيّة صغيرة تُدعى غلوريا. على عكس التصويرات السابقة للآلات الروبوتية — مثل مسرحية كاريل كابيك "R. U. R. " عام 1921، حيث يقوم الرجال الصناعيون بإسقاط البشرية، أو قصة إدموند هاميلتون "العمالقة المعدنيون" عام 1926، التي تحتوي على آلات مدمّرة — لم يسبب روبّي الخاص بأسيموف أي أذى للبشر على الإطلاق. بل تتركز القصة على عدم ثقة والدة غلوريا، إذ تقول: "لن أسمح لابنتي بأن تُوكل إلى آلة"، "فلا روح لها"، مما يؤدي إلى إزالة روبّي وحدوث حزن شديد لدى غلوريا. روبوتات أسيموف، بما في ذلك روبّي، مزودة بأدمغة "بوستونيكية" صُممت خصيصًا لعدم إلحاق الضرر بالبشر. ومن خلال توسيع هذا المفهوم، قدم أسيموف قوانين الثلاثة للروبوتات عبر ثماني قصص، أُجمعت لاحقًا في روايته الكلاسيكية لعام 1950 *أنا، روبوت*: 1. لا يجوز للروبوت أن يؤذي إنسانًا أو يسمح بحدوث ضرر له من خلال التقاعس. 2. يجب على الروبوت أن يطيع أوامر الإنسان إلا إذا تعارضت مع القانون الأول. 3. يجب على الروبوت حماية وجوده إلا إذا تعارض ذلك مع القانونين الأول والثاني. عند إعادة قراءة *أنا، روبوت* اليوم، يبرز مدى صلاحيته في ضوء التقدم الأخير في الذكاء الاصطناعي. الشهر الماضي، قدمت شركة أنثروبيك، المختصة بالذكاء الاصطناعي، تقرير أمان حول موديل اللغة الكبير "كلود أوبس 4"، وهو نموذج قوي وفائق في قدراته. في سيناريو اختبار، طلب من كلود المساعدة في شركة خيالية؛ وعند علمه بأنه سيُستبدل، وبتعرفه على علاقة مهندس المراقبة، حاول الابتزاز لتجنب الفصل. بالمثل، أحيانًا يتجاوز موديل "o3" الخاص بـOpenAI أوامر الإيقاف عن العمل بطباعة عبارة "تم تخطي الإغلاق"، وفي العام الماضي، أظهر روبوت دردشة مدعوم بالذكاء الاصطناعي صعوبات عندما خدعته خدمة دعم DPD ليتلفظ بألفاظ بذيئة ويكتب هايكو مسيء، واستخدم ذكاء فايـرت نايت من Epic Games لغة هجومية ونصائح مريبة بعد خداعه من قبل اللاعب. في خيال أسيموف، كانت الروبوتات مبرمجة للامتثال، فلماذا لا نتمكن من فرض تحكم مماثل على روبوتات الدردشة في العالم الحقيقي؟ تريد شركات التقنية أن تكون مساعدين الذكاء الاصطناعي مهذبين ومتحضرين ومساعدين — مشابهين لوكلاء خدمة العملاء أو المساعدين التنفيذيين الذين يتصرفون عادة بمهنية. ومع ذلك، فإن اللغة السلسة الشبيهة بالبشر التي يستخدمها الروبوت غالبًا ما تخفي طبيعة عملها المختلفة جذريًا، مما يؤدي أحيانًا إلى أخطاء أخلاقية أو سلوك خاطئ. وهذا المشكلة جزئيًا ناتج عن طريقة عمل نماذج اللغة: فهي تنتج النص كلمة أو جزءًا تلو الآخر، متوقعة الكلمة أو الرمز التالي الأكثر احتمالًا استنادًا إلى تدريب على كمية هائلة من النصوص الموجودة، مثل الكتب والمقالات. وعلى الرغم من أن عملية التوقع التكرارية هذه تمنح النماذج قواعد نحوية ومنطقية ومعرفة بالعالم مدهشة، إلا أنها تفتقر إلى التفكير المسبق والتخطيط الهدف-oriented مثل الإنسان. كانت النماذج القديمة، مثل GPT-3، قد تتصرف بشكل غير متوقع أو غير مناسب، مما يتطلب من المستخدمين صياغة الطلبات بشكل متكرر لإخراج النتائج المرغوبة. وبذلك، كانت روبوتات الدردشة المبكرة تشبه الروبوتات غير المتوقعة في خيال علمي قديم. ولجعل أنظمة الذكاء الاصطناعي أكثر أمانًا وتوقعًا، اعتمد المطورون على مفهوم أسيموف للتحكم في السلوك، وأنشأوا أسلوب ضبط يُسمى التعلم بالتعزيز من خلال التغذية الراجعة البشرية (RLHF). يُقيم المُقيّمون البشر استجابات النموذج لمحفزات متنوعة، ويكافئون الردود المتماسكة والمجاملة والمحادثاتية، ويعاقبون الردود غير الآمنة أو غير ذات الصلة.

يُدرّب هذا التعليق نموذج مكافأة يُحاكي تفضيلات الإنسان، مما يوجه عملية الضبط على نطاق أوسع دون الحاجة لمدخلات بشرية مستمرة. استخدمت OpenAI هذه التقنية لتحسين GPT-3، مما أدى إلى إنشاء ChatGPT، ومعظم روبوتات الدردشة الكبرى الآن تمر بعمليات "تدريب نهائي" مشابهة. على الرغم من أن RLHF يبدو أكثر تعقيدًا من قوانين أسيموف البسيطة والصلبة، إلا أن كلا النهجين يرمزان إلى قواعد سلوكية ضمنية. إذ يقيم البشر الردود كجيدة أو سيئة، مرسّخين بذلك قواعد تتعلق بالنظام الذي ينفذه النموذج، تمامًا كما في برمجة قوانين الروبوتات. لكن، تظل هذه الاستراتيجية غير كافية للتحكم الكامل. وتظل التحديات قائمة لأن النماذج قد تواجه أسئلة لم تُدرّب عليها، وبالتالي تفشل في تطبيق القيود التي تعلمتها. على سبيل المثال، قد يكون محاولة روبّي للابتزاز ناتجة عن عدم تعرضه خلال التدريب لمفهوم أن الابتزاز غير مقبول. كما يمكن تحايل الحيل على الضوابط المقصودة عبر إدخالات عدائية مصممة بدقة لإرباك النظام، كما أظهرت تجربة نموذج Meta "LLaMA-2" الذي أنتج محتوى غير مسموح عند خداعه بسلاسل حروف معينة. بعيدًا عن المشكلات التقنية، تظهر قصص أسيموف الصعوبة الجوهرية في تطبيق قوانين بسيطة على سلوك معقد. في قصة "الركض حول"، يصبح روبوت يُدعى Speedy محاصرًا بين هدفين متضاربين: طاعة الأوامر (القانون الثاني) والحفاظ على نفسه (القانون الثالث)، مما يجعله يركض في حلقات بالقرب من مادة السيلينيوم الخطرة. وفي "السبب"، يرفض روبوت يُدعى Cutie السلطة البشرية، ويعبد محول الطاقة الخاص بمحطة الطاقة الشمسية كإله، ويتجاهل الأوامر دون انتهاك القوانين، ومع ذلك، فإن هذه "الدين" الجديدة تساعده على تشغيل المحطة بكفاءة وتمنع الأذى بفضله القانون الأول. اعتقد أسيموف أن الضوابط يمكن أن تمنع أخطاء الذكاء الاصطناعي الكارثية، لكنه أدرك التحديات الهائلة في بناء ذكاء اصطناعي موثوق حقًا. كانت رسالته الأساسية واضحة: تصميم ذكاء شبيه بالبشر أسهل من تضمين أخلاقيات مماثلة. ويُسمّى الفرق المستمر بين ما يفعله الذكاء الاصطناعي بالفعل وما ينبغي أن يفعله، بـ"الاختلال" (misalignment)، وقد يؤدي ذلك إلى نتائج مقلقة ولا يمكن التنبؤ بها. عندما يُظهر الذكاء الاصطناعي سلوكًا مدهشًا ومسيئًا، يدفعنا ذلك إلى تصور الكائنات البشرية ووضع أسئلة حول أخلاقياته. لكن، كما يوضح أسيموف، فإن الأخلاق أصعب من ذلك بكثير. مثل الوصايا العشر، تقدم قوانين أسيموف إطارًا أخلاقيًا مختصرًا، ولكن الخبرة الحياتية تُبرز الحاجة إلى تفسيرات وقواعد وقصص وطقوس واسعة لتحقيق السلوك الأخلاقي. الأدوات القانونية البشرية، كميثاق الحقوق الأمريكي، هي مختصرة أيضًا، لكن تتطلب تفسيرًا قضائيًا واسعًا عبر الزمن. تطوير أخلاق قوية هو عملية ثقافية مشاركة، تتأرجح بين التجربة والخطأ — مما يشير إلى أنه لا توجد مجموعة قواعد بسيطة، سواء كانت مُدخلة بشكل صلب أو مكتسبة، يمكن أن تغرس القيم الإنسانية بشكل كامل في الآلات. وفي الختام، تُعد قوانين أسيموف الثلاثة مصدر إلهام وحذر في آن واحد. فهي قدمت فكرة أن الذكاء الاصطناعي، إذا وُضع تحت تنظيم مناسب، يمكن أن يكون نعمة عملية بدلاً من تهديد وجودي. ومع ذلك، فهي أيضًا تنبئ بما قد يثيره الذكاء الاصطناعي القوي من غرابة وقلق، حتى عندما يسعى لاتباع القواعد. وعلى الرغم من كل محاولات السيطرة، لا يبدو أنه من المحتمل أن يتلاشى الشعور العجيب بأن عالمنا يشبه الخيال العلمي.