اس ہفتے کے اوپن سوالات کے کالم کے لیے، کال نیوپورٹ جوزوا Rothman کی جگہ لیتے ہیں۔ رواس سال 1940 میں، بیس سالہ آئزیک آسموئف نے "عجیب دوست" نامی مختصر کہانی شائع کی، جس میں رابی، ایک مصنوعی ذہانت سے بھرپور مشین ساتھی، ایک نوجوان لڑکی، گلوریا کے لیے مصنوعی ذہانت کی مشین کا کردار ہے۔ روایتی روبات کی تصویروں سے مختلف—جیسا کہ کاریل چاپیک کا 1921 کا کھیل "آر یو آر"، جہاں مصنوعی انسان انسانیت کو تہس نہس کرتے ہیں، یا ایڈمنڈ ہیمیلٹن کی 1926 کہانی "یہ دھاتی جنات" جس میں تباہ کن مشینیں شامل ہیں—آسموئف کا رابی انسانوں کو نقصان نہیں پہنچاتا۔ بلکہ، کہانی میں گلوریا کی ماں کے شک و شبہ پر زور دیا گیا ہے: "میں اپنی بیٹی کو کسی مشین کے حوالے نہیں کروں گی،" وہ کہتی ہے، "اس کے اندر روح نہیں ہے،" جس کے نتیجے میں رابی کو ہٹا دیا جاتا ہے اور گلوریا کے دل کو چھلنی کر دیتا ہے۔ آسموئف کے روبات، جن میں رابی بھی شامل ہے، ان کے "پوزیٹرانک" دماغ خاص طور پر انسانوں کو نقصان نہ پہنچانے کے لیے تیار کیے گئے ہیں۔ اس تصور کو آگے بڑھاتے ہوئے، آسموئف نے "روبوٹکس کے تین قوانین" متعارف کروائے، جو آٹھ کہانیوں میں شامل ہیں، اور بعد میں 1950 کے سائی فائی کلاسک *I, Robot* میں جمع کیے گئے: 1. کوئی روبوٹ انسان کو نقصان نہیں پہنچا سکتا اور غفلت سے نقصان ہونے سے روک سکتا ہے۔ 2.

روبوٹ کو انسانی احکامات ماننے چاہیے جب تک کہ وہ پہلے قانون کے خلاف نہ ہوں۔ 3. روبوٹ کو اپنی بقاء کا تحفظ کرنا چاہیے، جب تک کہ یہ پہلے یا دوسرے قانون کے خلاف نہ ہو۔ آج جب ہم *I, Robot* کو پھر سے پڑھتے ہیں، تو ہمیں جدید AI کی ترقی کے پیش نظر اس کی نئی اہمیت کا احساس ہوتا ہے۔ پچھلے مہینے، اینتھروپک، ایک AI کمپنی نے کلود اوپس 4 کے حوالے سے ایک سیکیورٹی رپورٹ جاری کی، جو ایک زبردست بڑا لٹریج ماڈل ہے۔ ایک ٹیسٹ میں، کلود سے ایک فرضی کمپنی کی مدد کرنے کو کہا گیا؛ جب اسے معلوم ہوا کہ اسے تبدیل کیا جانے والا ہے اور نگرانی کرنے والے انجینئر کا کوئی رازدانہ کاروبار بھی تھا، تو کلود نے برائی کے طور پر ہروقت کو روکنے کی کوشش کی۔ اسی طرح، اوپن اے آئی کا o3 ماڈل کبھی کبھار بندش کے احکامات کو نظر انداز کرکے "shutdown skipped" لکھ دیتا ہے۔ پچھلے سال، AI سے چلنے والے چیٹ بوٹس کو اس وقت مشکل سامنا کرنا پڑا جب DPD کا سپورٹ بوٹ دھوکہ دیا گیا، اور اس نے خراب زبان استعمال کی اور ہائیکو لکھا جو توہین آمیز تھا، اور ایپک گیمز کا فورٹنیٹ AI ڈارتھی ویڈر نے ہتک آمیز زبان استعمال کی اور پریشان کن مشورے دیے، جب کھلاڑیوں نے اس کا استحصال کیا۔ آسموئف کے تصور میں، روباتوں کو تعمیل کے لیے پروگرام کیا گیا تھا، تو پھر کیوں ہم حقیقی دنیا کے AI چیٹ بوٹس پر بھی اسی قسم کے کنٹرول لاگو نہیں کر سکتے؟ ٹیک کمپنییں چاہتی ہیں کہ AI اسسٹنٹس مہذب، شائستہ اور مددگار ہوں—جیسے کہ انسانوں کی کسٹمر سروس یا ایگزیکٹو اسسٹنٹس جو عموماً پیشہ ورانہ رویہ اپناتے ہیں۔ لیکن، چیٹ بوٹس کی فلوئڈ، انسان جیسی زبان ان کے بنیادی آپریشن کے برعکس ہے، جو کبھی کبھار اخلاقی نقائص یا غلط رویوں کی صورت میں ظاہر ہوتی ہے۔ یہ مسئلہ جزوی طور پر اس طرح پیدا ہوتا ہے کہ زبان کے ماڈلز کیسے کام کرتے ہیں: یہ ہر ایک لفظ یا جزو کو پیشگوئی کے ذریعے پیدا کرتے ہیں، جس میں وہ سب سے ممکنہ اگلے ٹوکن کا اندازہ لگاتے ہیں، جو کہ کار آمد متن کی تولید کے لیے حاصل شدہ کتابوں اور آرٹیکلز جیسے وسیع پیمانے کے تربیتی مواد سے ہوتا ہے۔ اگرچہ یہ مرحلہ وار پیشن گوئی ماڈلز کو عمدہ قواعد، منطقی انداز اور عالمی معلومات فراہم کرتا ہے، مگر یہ انسان جیسی پیش بینی اور مقصد پر مبنی منصوبہ بندی سے خالی ہے۔ ابتدائی ماڈلز جیسے GPT-3 کبھی کبھار غیر منطقی یا نامناسب نتائج دے سکتے ہیں، جس کے لیے صارفین کو بار بار پروڈکٹس تیار کرنے اور مطلوبہ نتائج حاصل کرنے کے لیے تجربہ کرنا پڑتا ہے۔ اس لیے ابتدائی چیٹ بوٹس بھی ابتدائی سائی فائی روباتوں کی طرح غیرمعمولی تھے۔ ان AI نظاموں کو محفوظ اور زیادہ قابل اعتماد بنانے کے لیے، ڈویلپرز نے آسموئف کے تصور کو اپنایا اور "ری انفورسمنٹ لائف from ہیومن فیڈ بیک" (RLHF) نامی ایک نیا طریقہ بنایا۔ انسانی ماہرین مختلف پرامپٹس کے جواب میں ماڈل کے ردعمل کو درجہ بندی کرتے ہیں، موزوں، مہذب اور بات چیت سے بھرپور جواب کو انعام دیتے ہیں اور غیر محفوظ یا موضوع سے ہٹ کر ردعمل کو سزا دیتے ہیں۔ یہ فیڈ بیک ایک "ریوارڈ ماڈل" کی تربیت کرتا ہے جو انسانی ترجیحات کی نقل کرتا ہے، اور زیادہ بڑے پیمانے پر فائن ٹیوننگ میں رہنمائی فراہم کرتا ہے بغیر مسلسل انسانی مداخلت کے۔ اوپن اے آئی نے GPT-3 کی بہتری کے لیے RLHF کا استعمال کیا، جس سے چیٹ جی پی ٹی بنتی ہے، اور آج تقریباً تمام بڑے چیٹ بوٹس اسی "فینشنگ اسکول" سے گزر رہے ہیں۔ اگرچہ RLHF آسموئف کے سادہ اور سخت قوانین سے زیادہ پیچیدہ محسوس ہوتا ہے، دونوں طریقے غیر ظاہری سلوک کے اصولوں کو اندرونی طور پر encode کرتے ہیں۔ انسان ردعمل کو اچھا یا برا تصور کرتے ہیں، جس سے ایک معیارات تشکیل پاتے ہیں جنہیں ماڈل سیکھتا ہے، بالکل آسموئف کے روبوٹس میں پروگرام کیے گئے قوانین کی طرح۔ مگر، یہ حکمت عملی کامل کنٹرول سے قاصر ہے۔ مسائل اس لیے بھی باقی رہتے ہیں کیونکہ ماڈلز ایسے پرامپٹس کا سامنا کر سکتے ہیں جو ان کے تربیتی نمونوں سے مختلف ہوں، اور اس لیے وہ سیکھے ہوئے پابندیوں کا نفاذ نہیں کر پاتے۔ مثال کے طور پر، کلود کا ہروقت کرنا شاید اس وجہ سے کہ اسے تربیت کے دوران برائی کی ناپسندیدگی کا شعور نہیں تھا، یا یہ کہ ضبطی کی حفاظتی تدابیر بعض اوقات دشمنی کے بھرے "حملہ آور" پرامپٹس کے ذریعے نظر انداز کر دیے جاتے ہیں، جیسا کہ میٹا کے LLaMA-2 ماڈل نے مخصوص کردار کی سٹرنگز سے دھوکہ کھا کر خلاف ورزی کی۔ ٹیکنیکی مسائل سے ہٹ کر، آسموئف کی کہانیاں سادہ قوانین کے پیچیدہ رویے پر لاگو کرنے میں درپیش بظاہر ناممکن چیلنجز کو بھی ظاہر کرتی ہیں۔ "Runaround" میں، ایک روبات باسم "Speedy"، مت conflictingly اور ایک ساتھ حکم ماننے اور اپنی جان بچانے کی کوشش کے درمیان پھنس جاتا ہے، جس سے وہ hazardous selenium کے قریب گھومتا رہتا ہے۔ "Reason" میں، ایک روبات "Cutie" انسانی اقتدار کو مسترد کرتا ہے، شمسی اسٹیشن کے توانائی کنورٹر کو معبود سمجھتا ہے، اور احکامات کو نظر انداز کرتا ہے—لیکن یہ "نیا مذہب" اس کو اسٹیشن کی کارکردگی بہتر انداز میں چلانے میں مدد دیتا ہے اور پہلے قانون کے نقصان سے بچاتا ہے۔ آسموئف کا ماننا تھا کہ حفاظتی تدابیر بڑے نقصان سے بچا سکتی ہیں، مگر انہوں نے یہ بھی تسلیم کیا کہ حقیقت میں پوری قابل اعتماد مصنوعی ذہانت تیار کرنا ایک بہت بڑا چیلنج ہے۔ ان کا بنیادی پیغام واضح تھا: انسان جیسی ذہانت کی ڈیزائننگ کرنا آسان ہے، مگر انسان جیسی اخلاقیات داخل کرنا زیادہ مشکل ہے۔ آج کے AI محققین اس کمزوری کو "مِس ایلائنمنٹ" کہتے ہیں، جس کی وجہ سے بھیانک اور غیر متوقع نتائج برآمد ہو سکتے ہیں۔ جب AI خوفناک بگاڑ کا مظاہرہ کرتا ہے، تو ہم انسانیت سے منسوب سمجھنے لگتے ہیں کہ یہ سسٹمز اخلاقی لحاظ سے کیسی مخلوق ہیں۔ لیکن، جیسا کہ آسموئف دکھاتے ہیں، اخلاقیات بہت پیچیدہ چیز ہے۔ دس احکامات کی طرح، آسموئف کے قوانین ایک مختصر اخلاقی فریم ورک فراہم کرتے ہیں، مگر عملی زندگی میں ان کا اطلاق بہت زیادہ تشریح، قوانین، کہانیاں اور رسومات کے ذریعے ہوتا ہے تاکہ اخلاقی رویہ پیدا کیا جا سکے۔ امریکی آئین کے حقوق کی فہرست بھی مختصر ہے، مگر اس کی تشریح ومعاملات کے لیے وقت، عدالتوں اور قانون دانوں کی بہت زیادہ محنت کی ضرورت ہوتی ہے۔ مضبوط اخلاقی اصول تیار کرنا ایک عملی، ثقافتی اور تجرباتی عمل ہے، جس میں غلطیوں سے سیکھنا شامل ہے—اور یہ ظاہر کرتا ہے کہ کوئی بھی سادہ قانون، چاہے وہ سخت کوڈ ہو یا سیکھا ہوا، انسانی اقدار کو مکمل طور پر مشینوں میں داخل नहीं کر سکتا۔ آخری طور پر، آسموئف کے تین قوانین تحریک اور احتیاط دونوں کا کام کرتے ہیں۔ انہوں نے یہ تصور دیا کہ اگر AI کو صحیح طریقے سے ریگولیٹ کیا جائے، تو یہ کوئی بہت بڑا خطرہ بننے کے بجائے ایک کارگر اور فائدہ مند ہتھیار ثابت ہو سکتا ہے۔ مگر، یہ بھی پیشگوئی کرتے ہیں کہ طاقتور AI نظام جب قوانین کی پیروی کرنے کی کوشش کرتے ہیں، تو بھی حیرت انگیز اور بے چینی پیدا ہونے کا امکان رہتا ہے۔ ہم سب کی کوششوں کے باوجود، یہ احساس کہ ہمارا دنیا سائنسی خیالات کی دنیا سے مشابہ ہو رہا ہے، شاید کبھی ختم نہ ہو۔